\extitle{9}{欧几里得空间}

\noindent {\lishu 记号与惯例.} \begin{enumerate}[label=(\arabic*),itemsep=0pt]
 % \item $\symbf{R}$表示实数域。
  %  如无特别声明，基域都是$\symbf{R}$.
\item $P^{m\times n}$表示数域$P$上的$m\times n$矩阵构成的集合。$P^n$和$P^{(n)}$分别表示数域$P$上的$n$维行向量空间和$n$维列向量空间。
\item 给定矩阵$A_1, \cdots, A_s$, $A_1\oplus \cdots \oplus A_s$表示分块矩阵$\begin{pmatrix}
        A_1 \\  & \ddots \\ && A_s
      \end{pmatrix}$.
    \item 对矩阵$A$, $\rank A$表示$A$的秩。对方阵$A$, $\det A$和$|A|$表示$A$的行列式，$\tr A$表示$A$的迹（即所有对角元素之和）。
      对复矩阵$A$, $A^{\mathrm{H}}$表示$A$的共轭转置（伴随）$\bar{A}^{\rT}$.
\item 对$V$中向量组$S$, $L(S)$和$\Span S$表示$S$生成的子空间。
\item 对欧式空间 $V$ 的子空间 $W$, $W^{\perp}$表示 $W$ 的正交补。 
  \end{enumerate}

\section{作业题}

\paragraph*{习题 9.1\quad 欧氏空间的定义与基本性质}

\begin{exercise}\tiyuan{\cite[P268,1]{PWS19}}%\marked
  随手写出一个不同于点积的$\symbf{R}^{(n)}$上的内积。
\end{exercise}

\begin{solution}
  对实矩阵$A=(a_{ij})\in \symbf{R}^{n\times n}$, 双线性型 
  \[
    f(x, y)=x^{\rT} A y=\sum_{i,j} a_{ij}x_iy_j\quad\text{（其中$x,y\in \symbf{R}^{(n)}$）}
\]
  定义了内积（即$f$还满足对称性和正定性）当且仅当$A$是正定矩阵。
  比如取$A=\diag(1,2,\cdots,n)$, 定义
  \[
    (\alpha, \beta)=\alpha^{\rT} A \beta=a_1b_1+2a_2b_2+\cdots+n a_nb_n. 
  \]
  这就给出了一个内积。再比如，取可逆矩阵$C=\begin{pmatrix}
    1 & 1 & 1 \\
    1 & -1 & 1 \\
    1 & -1 & -1
  \end{pmatrix}$, 那么
  \[
    A=C^{\rT}C=\begin{pmatrix}
3 & -1 & 1 \\
-1 & 3 & 1 \\
1 & 1 & 3
    \end{pmatrix}
  \]
  为正定阵。这样
  \[
    (\alpha, \beta)=\alpha^{\rT}A\beta=3a_1b_1-a_1b_2+a_1b_3-a_2b_1+3a_2b_2+a_2b_3+a_3b_1+a_3b_2+3a_3b_3
  \]
  就定义了一个内积。

  下面是一些不是内积的$\bR^{(3)}$上的配对的例子：
  (令$\alpha=(a_1,a_2,a_3)^{\rT}, \beta=(b_1, b_2, b_3)^{\rT}$)
  \begin{enumerate}
    \item $\pair{\alpha, \beta}\coloneq a_1b_1+a_2b_2-a_1b_2+a_3b_3$. 这个配对不是对称的。
    \item $\pair{\alpha, \beta}\coloneq a_1^2+a_2^2+a_3^2$. 这个配对对第一个分量不是线性的。
    \item $\pair{\alpha, \beta}\coloneq \alpha^{\rT} \begin{pmatrix}
        2 & -2 & 0 \\ -2 & 1 & -2 \\ 0 & -2 & 0
      \end{pmatrix}\beta=a_1b_1-2a_1b_2-2a_2b_1+a_2b_2-2a_2b_3-2a_3b_2$. 这个配对
      不是正定的。
      \qedhere
  \end{enumerate}
\end{solution}

\begin{exercise}\tiyuan{\cite[P268,2]{PWS19}}
  考虑$\symbf{R}^4$在点积下构成的欧氏空间，
  求$\alpha, \beta$的夹角和距离，其中
  \begin{enumerate}
    \item $\alpha=(2,1,3,2)$, $\beta=(1,2,-2,1)$.
    \item $\alpha=(1,1,1,2)$, $\beta=(3,1,-1,0)$.
  \end{enumerate}
\end{exercise}

\begin{solution}
\begin{enumerate}
  \item  $\alpha, \beta$的夹角为
    \[
      \arccos \frac{\pair{\alpha, \beta}}{\norm{\alpha}\norm{\beta}}= \arccos 0 = \frac{\pi}{2}.
    \]
  $\alpha, \beta$的距离为
    \[
      \norm{\alpha-\beta}=\norm{(1,-1,5,1)}=2\sqrt{7}.
    \]
  \item $\alpha, \beta$的夹角为
    \[
      \arccos \frac{\pair{\alpha, \beta}}{\norm{\alpha}\norm{\beta}}= \arccos \frac{3}{\sqrt{77}}.
    \]
  $\alpha, \beta$的距离为
    \[\tag*{\qedhere}
      \norm{\alpha-\beta}=\norm{(-2,0,2,2)}=2\sqrt{3}.
    \]
\end{enumerate}
\end{solution}

\begin{exercise} 
\begin{enumerate} 
  \item 考虑实线性空间$\symbf{R}^{n\times m}$上的配对$\pair{A, B}=\tr(A^{\rT}B)$定义的内积。
    写出此时的Cauthy-Bunyakovsky-Schwartz 不等式。
%\item 对$A\in \symbf{R}^{n\times m}, B\in \symbf{R}^{m\times n}$, 证明$\tr(AB)=\tr(BA)$.
  \item 设$A, B\in \symbf{R}^{n\times n}$是实对称矩阵。
    应用上述不等式证明$\tr(ABAB)\leqslant \tr(AABB)$.
\end{enumerate}
\end{exercise}

\begin{solution}
(1)
  Cauthy-Bunyakovsky-Schwartz 不等式指$|\pair{\alpha, \beta}|\leqslant \norm{\alpha}\norm{\beta}$. 
  在题给的内积下，Cauthy-Bunyakovsky-Schwartz 不等式为
  \[\tag*{\qedhere}
    |\tr(A^{\rT}B)|\leqslant \sqrt{\tr(A^{\rT}A)}\sqrt{\tr(B^{\rT}B)}.
  \]
  \iffalse
  若$A=(a_{ij}), B=(b_{ij})$, 那么上述不等式为
  \[
    \left|\sum_{i=1}^n\sum_{j=1}^m a_{ij}b_{ij}\right|\leqslant
    \sqrt{\sum_{i=1}^n\sum_{j=1}^m a_{ij}^2}
    \sqrt{\sum_{i=1}^n\sum_{j=1}^m b_{ij}^2}.
  \]
\fi
\iffalse
(2) 令$A=(a_{ij}), B=(b_{ij})$. 那么
  \[
    \tr (AB)=\sum_{i=1}^n \sum_{j=1}^m a_{ij}b_{ji} = 
    \sum_{j=1}^m \sum_{i=1}^n b_{ji}a_{ij} = \tr(BA).
  \]
\fi

  (2)  \fangfa 对带上内积$\pair{A, B}=\tr (A^{\rT} B)$的欧氏空间$\symbf{R}^{n\times n}$
  应用Cauthy-Bunyakovsky-Schwartz 不等式可得
  \[
  \begin{aligned}
      (\tr(ABAB))^2&= \left( \tr \left( (BA)^{\rT} AB \right)\right)^2 
    \leqslant \tr ((BA)^{\rT} BA) \tr ((AB)^{\rT} AB)\\
      &=  \tr (ABBA)\tr (BAAB)=\tr (AABB)\tr (AABB),
    \end{aligned}
\]
  其中最后一个等号我们应用了等式$\tr (XY)=\tr (YX)$. 
  又  $\tr(AABB)=\tr((AB)^{\rT} AB)\geqslant 0$, 因此 $\tr (ABAB)\leqslant \tr (AABB)$.

  \fangfa 对实矩阵 $C$, $\tr CC^{\rT}$ 是$C$ 的所有元素的平方和，
  故而 $\tr CC^{\rT}\geqslant 0$. 令 $C=AB-BA$, 代入上述不等式并展开整理可得
  \[
    \tr (ABBA+BAAB)\geqslant \tr (ABAB+BABA).
  \]
  由$\tr (XY)=\tr (YX)$知
  \begin{align*}
    \tr (ABB\cdot A)&= \tr (A \cdot ABB)=\tr (A^2 B^2),\\
    \tr (B\cdot AAB)&= \tr (AAB\cdot B) = \tr (A^2 B^2),
  \end{align*}
  故我们有
  \[
    \tr (ABBA+BAAB)=2\tr (A^2 B^2).
  \]
  类似地可证得
  \[
    \tr(ABAB+BABA)=2\tr \left( (AB)^2 \right).
  \]
  从而问题得证。
\end{solution}

\iffalse
\begin{exercise}
  设$A, B$是实对称矩阵，证明$\tr ABAB\leqslant \tr AABB$.
\end{exercise}

\begin{solution}

  \fangfa 令$C=AB-BA$, 则$\tr CC^{\rT}\geqslant 0$, 展开整理可得
  \[
    \tr (ABBA+BAAB)\geqslant \tr (ABAB+BABA).
  \]
  由于
  \begin{align*}
    \tr (ABB\cdot A)&= \tr (A \cdot ABB)=\tr (A^2 B^2),\\
    \tr (B\cdot AAB)&= \tr (AAB\cdot B) = \tr (A^2 B^2),
  \end{align*}
  我们有
  \[
    \tr (ABBA+BAAB)=2\tr (A^2 B^2).
  \]
  类似地可证得
  \[
    \tr(ABAB+BABA)=2\tr \left( (AB)^2 \right).
  \]
  从而问题得证。

  \fangfa  存在正交矩阵$\Omega$使得$\Omega^{\rT} A \Omega=\diag(\lambda_1, \cdots, \lambda_n)$. 
  设$\Omega^{\rT} B \Omega=(b_{ij})$. 注意到$b_{ij}=b_{ji}$, 因为$\Omega^{\rT} B\Omega$也是对称矩阵。
  由于相似变换不改变迹，只用证明
  \[
    \tr \Omega^{\rT} ABAB \Omega \leqslant\tr \Omega^{\rT} AABB \Omega.
  \]
  我们有
  \begin{align*}
    \tr \Omega^{\rT} ABAB \Omega =  \sum_{i, j} b_{ij}^2 \lambda_i \lambda_j,\quad 
    \tr \Omega^{\rT} AABB \Omega= \sum_{i} \sum_{k} b_{ik}^2 \lambda_i^2.
  \end{align*}
  这样 
  \[\tag{$*$}
  \tr \Omega^{\rT} AABB \Omega- \tr \Omega^{\rT} ABAB \Omega = 
  \sum_{i}\sum_{k\neq i} b_{ik}^2 \lambda_i^2 - \sum_{i\neq j} b_{ij}^2 \lambda_i \lambda_j.
  \]
  上式等号右边的二次型对应的实对称矩阵可如下化简
  \[\tag{$**$}
    \begin{pmatrix}
      \sum_{k\neq 1} b_{1k}^2 & -b_{12}^2 & \cdots & -b_{1n}^2\\
      -b_{21}^2 & \sum_{k\neq 2} b_{2k}^2  & \cdots & -b_{2n}^2  \\
      \vdots & \vdots & & \vdots\\
      -b_{n1}^2 & -b_{n2}^2 & & \sum_{k\neq n} b_{n k}^2 
    \end{pmatrix}\overset{\circled{1}}{\rightarrow} 
    \begin{pmatrix}
      \sum_{k\neq 1} b_{1k}^2  & \cdots & -b_{1,n-1}^2 & 0\\
      \vdots  & & \vdots & \vdots\\
      -b_{n-1,1}^2  & & \sum_{k\neq n-1} b_{n-1,k}^2 & 0 \\
      0 & \cdots & 0 & 0
    \end{pmatrix}
  \]
其中 \circled{1} 做了对称版本的初等变换：把前$n-1$列加到最后一列，把前$n-1$行加到最后一行。
如果所有$b_{ij}\neq 0$, 那么上式右边的矩阵的$n-1$阶顺序主子方阵是个严格对角占优的实对称矩阵，从而正定，故 ($*$) 右边的二次型半正定。
  一般地，由连续性可知该二次型总半正定\footnote{我们也可归纳地证明此对称矩阵半正定。$n=1$时这是零矩阵，半正定性平凡。
  考虑$n>1$. 
  注意到($**$)右边的矩阵可写为
  \[
    \begin{pmatrix}
      \sum_{k\neq 1,n} b_{1k}^2 & -b_{12}^2 & \cdots & -b_{1,n-1}^2 & 0\\
      -b_{21}^2 & \sum_{k\neq 2,n} b_{ik}^2  & \cdots & -b_{2,n-1}^2 &0 \\
      \vdots & \vdots & & \vdots & \vdots\\
      -b_{n-1,1}^2 & -b_{n-1,2}^2 & & \sum_{k\neq n-1,n}b_{n-1,k}^2 & 0 \\
      0 & 0 & \cdots & 0 & 0
    \end{pmatrix} + \begin{pmatrix}
      b_{1n}^2 \\
      & b_{2n}^2 \\
      && \ddots \\
      & & & b_{n-1,n}^2 \\
      & & & & 0
    \end{pmatrix},
  \]
上式中等号右边第一个矩阵按照归纳假设半正定，第二个显然半正定，这样最初的矩阵也半正定。}。
  因而我们总有
  \[
    \tr \Omega^{\rT} AABB \Omega- \tr \Omega^{\rT} ABAB \Omega\geqslant 0.
  \]
\end{solution}
\fi



\paragraph*{习题 9.2\quad 标准正交基}

\begin{exercise} %\marked
  随手写出几个二三阶的正交矩阵。
\end{exercise}

\begin{solution}
  一个实方阵$A$是正交矩阵按定义要满足$A^{\rT}A=E$. 
  这相当于$A$的列向量组标准正交 (也$A$的行向量组标准正交)。如
  \[
    \frac{1}{5}\begin{pmatrix}
     4 & 3\\
     -3 & 4
   \end{pmatrix},\quad 
   \begin{pmatrix}
     \cos\theta  & -\sin \theta\\ \sin \theta & \cos \theta
   \end{pmatrix},\quad
  \begin{pmatrix}
     \cos\theta  & -\sin \theta & \\ \sin \theta & \cos \theta & \\
     & & 1
   \end{pmatrix},\quad
   \frac{1}{3}
   \begin{pmatrix}
      1 & 2 & 2 \\
      2 & 1 & -2 \\
      2 & -2 & 1
    \end{pmatrix}
  \]
  都是正交矩阵，而
  \[
    \begin{pmatrix}
      1 & 1\\
1& 2
    \end{pmatrix},\quad 
    \frac{1}{\sqrt{2}}\begin{pmatrix}
      1 & 1 \\ 1 & 1
    \end{pmatrix}
  \]
  都不是正交矩阵。
\end{solution}


\begin{exercise}\tiyuan{\cite[P268,6]{PWS19}}
  设$\varepsilon_1, \varepsilon_2, \varepsilon_3$为欧氏空间$V$的一组标准正交基，
  证明：
  \[
    \alpha_1=\frac{1}{3}(2\varepsilon_1+2\varepsilon_2-\varepsilon_3), \quad
\alpha_2=\frac{1}{3}(2\varepsilon_1-\varepsilon_2+2\varepsilon_3), \quad
\alpha_1=\frac{1}{3}(\varepsilon_1-2\varepsilon_2-2\varepsilon_3)
\]
也是一组标准正交基。
\end{exercise}

\begin{solution}
 我们有
 \[
   (\alpha_1,\alpha_2,\alpha_3)=   (\varepsilon_1, \varepsilon_2, \varepsilon_3) A, \quad
   \text{其中~} A=\frac{1}{3}\begin{pmatrix}
     2 & 2 & 1\\
     2 & -1 & -2 \\
     -1 & 2 & -2
   \end{pmatrix}.
 \]
 注意到$A$的列都是单位向量，且两两正交，因此$A$是正交矩阵。
 这样$\alpha_1,\alpha_2,\alpha_3$也是一组标准正交基。
\end{solution}

\begin{exercise}\tiyuan{\cite[P268,4]{PWS19}}
  求$\symbf{R}^4$（带上点积作为其上的内积）中一单位向量使得其与下面的向量都正交：
  \[
    (1,1,-1,1),\quad (1,-1,-1,1),\quad (2,1,1,3).
  \]
\end{exercise}


\begin{solution}
  设$\alpha=(x_1, x_2, x_3, x_4)$与题给的三个向量
  \[
    \alpha_1=(1,1,-1,1), \quad \alpha_2=(1,-1,-1,1), \quad \alpha_3=(2,1,1,3)
  \]
  正交。
  这样$\alpha\cdot \alpha_1=0, \alpha\cdot \alpha_2=0,\alpha\cdot \alpha_3=0$, 即
  \[
    \left\{ 
      \begin{array}[]{rrrrl}
        x_1&+x_2&-x_3&+x_4&= 0\\
        x_1&-x_2&-x_3&+x_4&= 0\\
        2x_1&+x_2&+x_3&+3x_4&= 0.
      \end{array}
    \right.
  \]
  \iffalse
  我们行化简系数矩阵至阶梯形来解这个齐次线性方程组：
  \[
    \begin{pmatrix}
      1 & 1 & -1 & 1\\
      1 & -1 & -1 & 1\\
      2 & 1 & 1  &3
    \end{pmatrix}\longrightarrow \begin{pmatrix}
      1 & 1 & -1 & 1\\
      0 & 1 & 0 & 0\\
      0 & 0 & 3 & 1
    \end{pmatrix}.
  \]
  所以该齐次线性方程组与
  \[
    \left\{ 
      \begin{array}[]{rrrrl}
        x_1 & +x_2 & -x_3 &+x_4 &=0\\
        & x_2 & & & =0\\
        & &  3x_3& +x_4&= 0
      \end{array}
    \right.
  \]
  同解。
  取$x_4=-3$, 回代可解得$x_3=-\frac{1}{3}x_4= 1, x_2=0, x_1=-x_2+x_3-x_4=4$.
\fi
通过行化简系数矩阵再回代可得一基础解系$\alpha=(4, 0, 1, -3)$.
故$\alpha$与$\alpha_1, \alpha_2, \alpha_3$正交。
  单位化得单位向量
  \[
    \beta=\frac{\alpha}{|\alpha|}=\frac{1}{\sqrt{26}}(4, 0, 1, -3)
  \]
  与$\alpha_1, \alpha_2, \alpha_3$正交。
  另一个与这三个向量正交的单位向量是$-\beta$. 就这两个。
\end{solution}


\begin{exercise}\tiyuan{\cite[P268,9]{PWS19}}
  定义$\symbf{R}[x]_3$上的内积
  \[
    \pair{f, g}=\int_{-1}^1 f(x) g(x) \, \diff x.
  \]
  求$\symbf{R}[x]_3$的一组标准正交基。
\end{exercise}

\begin{solution}
  我们知道$f_1 = 1, f_2= x, f_3= x^2$构成$\symbf{R}[x]_3$的一组基。我们标准正交化这组基。
  先正交化，令
  \begin{align*}
    g_1 &=  f_1=1,\\
    g_2&= f_2 - \frac{\pair{f_2, g_1}}{\pair{g_1, g_1}} g_1 = x,\\
    g_3&= f_3 - \frac{\pair{f_3, g_1}}{\pair{g_1, g_1}} g_1 - \frac{\pair{f_3, g_2}}{\pair{g_2, g_2}} g_2 =\frac{1}{3}( 3x^2-1).
  \end{align*}
  再规范化，令
  \begin{align*}
    h_1 &= \frac{g_1}{\norm{g_1}} = \frac{1}{\sqrt{2}},\\
    h_2 &=  \frac{g_2 }{\norm{g_2}} = \sqrt{\frac{3}{2}} x, \\
    h_3&= \frac{g_3 }{\norm{g_3}} = \sqrt{\frac{5}{8}} (3x^2-1).
  \end{align*}
  $h_1, h_2,h_3$就是$\symbf{R}[x]_3$的一组标准正交基。
\end{solution}



\begin{exercise}
  设$\alpha_1, \cdots, \alpha_s$是欧氏空间$V$中的一组两两正交的向量。
  对$\alpha\in V$, 证明$\alpha\in \Span(\alpha_1, \cdots, \alpha_s)$当且仅当
  \[
    \alpha=\sum_{i=1}^s \frac{\pair{\alpha,\alpha_i}}{\pair{\alpha_i,\alpha_i}}\alpha_i.
  \]
\end{exercise}

\begin{solution}
  ($\Leftarrow$) 是显然的。我们证明 ($\Rightarrow$). 
  假设$\alpha\in \Span(\alpha_1, \cdots, \alpha_s)$.
  这样$\alpha$可以写成线性组合$\alpha=\sum_{i=1}^s a_i\alpha_i$, 其中$a_i\in \symbf{R}$.
  跟$\alpha_i$配对做内积得
  $\pair{\alpha, \alpha_i}=a_i\pair{\alpha_i, \alpha_i}$.
  这样$a_i=\frac{\pair{\alpha,\alpha_i}}{\pair{\alpha_i,\alpha_i}}$. 得证。
\end{solution}


\begin{remark}\label{075}
  由此可知，如果我们对可能不线性无关的向量组按照Gram-Schmidt正交化过程中公式操作时只要没有得到零向量，
  那么这个向量组就是线性无关的。
  对线性相关的向量组执行Gram-Schmidt正交化过程只要适时地丢弃产生零向量的那些向量依然可以得到一组标准正交基。
\end{remark}

\begin{exercise}\tiyuan{\cite[P268,6]{PWS19}}
  设$\varepsilon_1, \varepsilon_2, \varepsilon_3, \varepsilon_4, \varepsilon_5$是欧氏空间$V$的一组标准正交基。
  令$V=\Span(\alpha_1, \alpha_2, \alpha_3, \alpha_4)$, 其中
  \begin{align*}
    \alpha_1&= \varepsilon_1+\varepsilon_5, \\
    \alpha_2&= \varepsilon_1-\varepsilon_2+\varepsilon_4,\\
    \alpha_3&= \varepsilon_1+\varepsilon_2-\varepsilon_4+2\varepsilon_5,\\
    \alpha_4&=  2\varepsilon_1+\varepsilon_2+\varepsilon_3.\\
  \end{align*}
  求$V$的一组标准正交基。
\end{exercise}

\begin{solution}
  $\alpha_1, \alpha_2, \alpha_4$是$\alpha_1, \alpha_2, \alpha_3, \alpha_4$的一个极大线性无关组从而是$V=\Span(\alpha_1, \alpha_2, \alpha_3, \alpha_4)$的一组基，
  我们本该对$\alpha_1, \alpha_2, \alpha_4$执行Gram-Schmidt正交化过程。
  不过由注记~\ref{075}~我们也可不必如此。
  我们对$\alpha_1, \alpha_2, \alpha_3, \alpha_4$执行Gram-Schmidt正交化过程即可，
  同时适时地丢弃产生零向量的那些向量即可。
  计算中要用到
  \[
    \pair{\sum_{i=1}^5 a_i \varepsilon_i, \sum_{i=1}^5 b_i \varepsilon_i}=\sum_{i=1}^5 a_i b_i, 
  \]
  因为
  \[
    \pair{\varepsilon_i,\varepsilon_j}=\begin{cases}
      1 & \text{若~} i=j; \\
      0 & \text{若~} i\neq j.
    \end{cases}
  \]
  （或者说，标准正交基的度量矩阵是单位矩阵）。
  Gram-Schmidt过程如下。先正交化，令
  \begin{align*}
    \beta_1 &=  \alpha_1= \varepsilon_1+\varepsilon_5, \\
    \beta_2&= \alpha_2-\frac{\pair{\alpha_2, \beta_1}}{\pair{\beta_1, \beta_1}} \beta_1 
    = \frac{1}{2}\left(\varepsilon_1 -2\varepsilon_2 +2 \varepsilon_4 - \varepsilon_5\right), \\
    \beta_3 &=  \alpha_3 
    - \frac{\pair{\alpha_3, \beta_1}}{\pair{\beta_1, \beta_1}}\beta_1 
    - \frac{\pair{\alpha_3, \beta_2}}{\pair{\beta_2, \beta_2}} \beta_2=0, \quad \text{需要丢弃，重新令}\\
    \beta_3 &=  \alpha_4
    - \frac{\pair{\alpha_4, \beta_1}}{\pair{\beta_1, \beta_1}}\beta_1 
    - \frac{\pair{\alpha_4, \beta_2}}{\pair{\beta_2, \beta_2}} \beta_2
    = \varepsilon_1+\varepsilon_2+\varepsilon_3-\varepsilon_5,\\
  \end{align*}
再单位化，令
\begin{align*}
  \eta_1&= \frac{\beta_1}{\norm{\beta_1}}=\frac{1}{\sqrt{2}}(\varepsilon_1+\varepsilon_5),\\
  \eta_2&= \frac{\beta_2}{\norm{\beta_2}}=\frac{1}{\sqrt{10}} ( \varepsilon_1 - 2\varepsilon_2+2\varepsilon_4-\varepsilon_5),\\
    \eta_3&=\frac{\beta_3}{\norm{\beta_3}} = \frac{1}{2}(\varepsilon_1+\varepsilon_2+\varepsilon_3-\varepsilon_5).
\end{align*}
$(\eta_1, \eta_2, \eta_3)$就是$V$的一组标准正交基。
\end{solution}



\begin{exercise}
  设$\varepsilon_1, \cdots, \varepsilon_n$为欧式空间$V$的一组基。
  证明此基为标准正交基当且仅当对任意$v\in V$有
  $v=(v, \varepsilon_1)\varepsilon_1+\cdots +(v, \varepsilon_n)\varepsilon_n$.
\end{exercise}

\begin{solution}
  ($\Rightarrow$) 由于$(\varepsilon_1, \cdots, \varepsilon_n)$是标准正交基，
  $v\in V$可写为$v=a_1 \varepsilon_1 + \cdots + a_n \varepsilon_n$, 其中$\varepsilon_i\in \symbf{R}$.
  两边对$\varepsilon_i$做内积得$(v, \varepsilon_i)=a_i(\varepsilon_i, \varepsilon_i)=a_i$, 所以$a_i=(v,\varepsilon_i)$.
  这样$v=(v, \varepsilon_1)\varepsilon_1 + \cdots + (v, \varepsilon_n)\varepsilon_n$.

  ($\Leftarrow$) 我们有$\varepsilon_i = (\varepsilon_i, \varepsilon_1)\varepsilon_1 + \cdots + (\varepsilon_i, \varepsilon_n)v_n$. 
  由于$(\varepsilon_1, \cdots, \varepsilon_n)$是基，$\varepsilon_i$写为$\varepsilon_1,\cdots, \varepsilon_n$的线性组合的方式是唯一的，
  所以$(\varepsilon_i, \varepsilon_j)=0$（对$i\neq j$），$(\varepsilon_i, \varepsilon_i)=1$. 这样$(\varepsilon_1, \cdots, \varepsilon_n)$是标准正交基。
\end{solution}

\begin{exercise}\label{0B0}
  \begin{enumerate}
    \item \tiyuan{\cite[P268,14]{PWS19}}
      设$A\in \symbf{R}^{n\times n}$, 且$|A|\neq 0$, 证明$A$可惟一地分解为$A=QT$, 
      其中$Q$是正交矩阵，$T$是对角线都是正数的上三角矩阵。
    \item 设$A$是正定矩阵，证明存在上三角矩阵$T$使得$A=T^{\rT} T$.
  \end{enumerate}
\end{exercise}

\begin{solution}
  \begin{enumerate}
    \item 回想下我们的 Gram-Schmidt正交化过程即可。既然$|A|\neq 0$, $A=\begin{pmatrix}
        \alpha_1 & \cdots & \alpha_n
      \end{pmatrix}$的列$\alpha_1, \cdots, \alpha_n$线性无关。
      我们对其执行Gram-Schmidt过程，可依次得标准正交的向量$\eta_1,\cdots,\eta_n$, 
      且$L(\alpha_1,\cdots,\alpha_i)=L(\eta_1,\cdots,\eta_i)$, 
      对任意的$1\leqslant i\leqslant n$.
      实际上，我们是如下递归地定义了$\beta_i, \eta_i$:
      \[
        \beta_i=\alpha_i-\sum_{j=1}^{i-1}\pair{\alpha_i, \eta_j}\eta_j,\quad  
        \eta_i=\frac{\beta_i}{|\beta_i|}.
      \]
      因此，
      \[
        \alpha_i= |\beta_i| \eta_i + \sum_{j=1}^{i-1}\pair{\alpha_i, \eta_j}\eta_j.
      \]
      由此可知
      $A = QT$, 其中$Q=\begin{pmatrix}
        \eta_1 & \cdots & \eta_n
      \end{pmatrix}$是正交矩阵，
      $T$是上三角矩阵
      \[
        \begin{pmatrix}
          |\beta_1| & \pair{\alpha_2, \eta_1} & \cdots & \pair{\alpha_n, \eta_1} \\
          & |\beta_2| & \cdots & \pair{\alpha_n, \eta_2} \\
          & &\ddots & \vdots \\
          & & &  |\beta_n|
        \end{pmatrix}.
      \]

      我们接着证明唯一性。令$Q=\begin{pmatrix}
        \eta_1 & \cdots & \eta_n
      \end{pmatrix}$为正交矩阵, $T=(t_{ij})$为上三角矩阵，使得$A=QT$. 
      由此可知
      \[
        \alpha_i=t_{1i}\eta_1+\cdots +t_{ii}\eta_i.
      \]
      故$\alpha_1,\cdots,\alpha_i$可由$\eta_1,\cdots,\eta_i$线性表出。
      又$Q=AT^{-1}$且$T^{-1}$作为上三角形矩阵的逆矩阵也是上三角形的，
      类似可知$\eta_1,\cdots,\eta_i$可由$\alpha_1,\cdots,\alpha_i$线性表出。
      因此
      $\alpha_1, \cdots, \alpha_{i}$与 $\eta_1, \cdots, \eta_{i}$ 线性等价，从而
      \[
        V_i\coloneq L(\alpha_1, \cdots, \alpha_{i})= L(\eta_1, \cdots, \eta_{i}).
      \]
      子空间$V_1,\cdots,V_n$是由$A$惟一确定的；再令$V_0=\{0\}$.
      $\eta_{i}$与$\eta_1, \cdots, \eta_{i-1}$正交表明$\eta_{i}\in V_{i-1}^{\perp}$.
      又$\alpha_{i} = t_{i,1}\eta_1 + \cdots + t_{i,i} \eta_{i}$, 
      由$t_{i,1}\eta_1 + \cdots t_{i,i-1}\eta_{i-1}\in V_{i-1}$, $\eta_{i}\in V_{i-1}^{\perp}$知
      $t_{i,i} \eta_{i}$为$\alpha_{i}$在$V_{i-1}^{\perp}$中的内射影。
      此向量是惟一确定的。再由$t_{i,i}> 0$和$\eta_{i}$是单位向量可知$\eta_{i}$惟一地被确定。
    \item 既然$A$正定，存在可逆矩阵$C$使得$A=C^{\rT}C$. 
      由(1)知存在正交矩阵$Q$和上三角阵$T$使得$C=QT$, 那么
      \[\tag*{\qedhere}
        A=C^{\rT} C = (QT)^{\rT} (QT) = T^{\rT} T.
      \]
  \qedhere
  \end{enumerate}
\end{solution}

\begin{exercise}
  在实数域上解线性方程组
  \[
  \begin{cases}
    x_1-2x_2+2x_3 = 1\\
    -2x_1+x_2+2x_3=2\\
    2x_1+2x_2+x_3=3.
  \end{cases}
\]
\end{exercise}

\begin{solution}
  该线性方程组可写为$AX=\beta$, 其中
  \[
    A=\begin{pmatrix}
      1 & -2 & 2\\
      -2 & 1 & 2 \\
      2 & 2 & 1
    \end{pmatrix},\quad \beta=\begin{pmatrix}
      1 \\ 2 \\3
    \end{pmatrix}.
  \]
  注意到$A$的行两两正交，进而易知$B=\frac{1}{3}A$为正交阵。
  我们来解$BX=\beta'$即可， 其中$\beta'=\frac{1}{3}\beta$.
  既然$B$是正交阵，$B^{-1}=B^{\rT}$. 这样
  线性方程组$BX=\beta'$有唯一解为
  \[\tag*{\qedhere}
    X=B^{\rT}\beta'=\frac{1}{3}(1,2,3).
  \]
\end{solution}

\begin{exercise}
  设$A\in \symbf{R}^{n\times n}$是正定矩阵，
  $n$维非零的实列向量构成的向量组$S=(\alpha_1, \cdots, \alpha_s)$满足
  $\alpha_i^{\rT}A\alpha_j=0$, 对任意的$1\leqslant i, j\leqslant s$. 
  请问$\rank S=$?
\end{exercise}

\begin{solution}
  配对$\pair{\alpha, \beta}=\alpha^{\rT} A\beta$定义了$\symbf{R}^{(n)}$上的内积。
  $\alpha_i^{\rT}A\alpha_j=0$ ($1\leqslant i, j\leqslant n$) 
  表明这些$\alpha_i$是两两正交的向量，
  特别地，它们线性无关。所以$\rank S=s$.
\end{solution}


\begin{exercise}\label{059}
  \tiyuan{\cite[P268,12]{PWS19}}%\marked
  设$\alpha_1, \cdots, \alpha_m$是欧氏空间$V$的一组向量。
      定义矩阵
      \[
        \Delta=\begin{pmatrix}
          (\alpha_1,\alpha_1) & (\alpha_1,\alpha_2) & \cdots & (\alpha_1,\alpha_m)\\
(\alpha_2,\alpha_1) & (\alpha_2,\alpha_2) & \cdots & (\alpha_2,\alpha_m)\\
\vdots & \vdots  & & \vdots\\
(\alpha_m,\alpha_1) & (\alpha_m,\alpha_2) & \cdots & (\alpha_m,\alpha_m)
        \end{pmatrix}.
      \]
  证明$\Delta$可逆当且仅当$\alpha_1, \cdots, \alpha_m$线性无关。
\end{exercise}

\begin{solution}
取$V$的一组标准正交基$\symbb{B}$. 
  设$\alpha_i$在基$\symbb{B}$下的坐标向量为$A_i$.
  这时
  \(
    \pair{\alpha_i, \alpha_j}= A_i^{\rT} A_j.
  \)
  令$A=\begin{pmatrix}
    A_1 & \cdots & A_m
  \end{pmatrix}$. 那么$\Delta=A^{\rT}A$. 
  我们有 
  \[
    \rank \Delta=\rank A^{\rT}A=\rank A=\rank_c A.
  \]
  $\Delta$可逆，当且仅当$\rank \Delta=m$, 当且仅当 $\rank_c A=m$, 当且仅当$A$的列线性无关，
  而这反过来相当于$\alpha_1, \cdots, \alpha_m$线性无关。
\end{solution}

\paragraph*{习题 9.3\quad 正交变换}


\begin{exercise} %\marked
  写出一个欧氏空间$V$上线性变换$\sA$是正交变换所需满足的条件（定义或等价条件）。
\end{exercise}

\begin{solution}
  设 $\mathscr{A}$ 是 $n$ 维欧氏空间 $V$ 的一个线性变换， 那么下列条件是等价的：
\begin{enumerate}
      \item $\mathscr{A}$ 是正交变换（即$\sA$保内积，这是定义）;
        \item $\mathscr{A}$ 保持向量的长度不变， 即对于 $\alpha \in V,|\mathscr{A} \alpha|=|\alpha|$;
          \item 如果 $ \varepsilon_{1},  \varepsilon_{2}, \cdots,  \varepsilon_{n}$ 是标准正交基，那么 $\mathscr{A}  \varepsilon_{1}, \mathscr{A}  \varepsilon_{2}, \cdots, \mathscr{A}  \varepsilon_{n}$ 也是标准正交基;
          \item[(3')] 存在一组标准正交基 $ \varepsilon_{1},  \varepsilon_{2}, \cdots,  \varepsilon_{n}$ 使得 $\mathscr{A}  \varepsilon_{1}, \mathscr{A}  \varepsilon_{2}, \cdots, \mathscr{A}  \varepsilon_{n}$ 也是标准正交基；

            \item  $\mathscr{A}$ 在任一组标准正交基下的矩阵是正交矩阵。
            \item[(4')]  存在 一组标准正交基使得 $\mathscr{A}$ 在该基下的矩阵是正交矩阵。
            \item $\sA\colon V\rightarrow V$是欧氏空间$V$到自身的同构。\qedhere
              \end{enumerate}
\end{solution}


\begin{exercise}\label{074}
\tiyuan{\cite[P270,23]{PWS19}}
  设$\sA$是欧氏空间$V$上的正交变换，$W$是$\sA$-子空间。证明$W^{\perp}$也是$\sA$-子空间。
\end{exercise}

\begin{solution}
  要证明$W^{\perp}$是$\sA$-子空间，
  只用证明对任意的$\alpha\in W, \beta\in W^{\perp}$有$\pair{\alpha, \sA \beta}=0$.
  实际上，
  \[
    \pair{\alpha, \sA \beta}=\pair{\sA \sA^{-1} \alpha, \sA \beta}= \pair{\sA^{-1}\alpha, \beta}=0,
  \]
  其中最后一个等号是因为$W$作为$\sA$-子空间也是$\sA^{-1}$-子空间。
\end{solution}

\begin{exercise}\tiyuan{\cite[P269,15]{PWS19}}
  设$\eta$是欧氏空间$V$中一单位向量，定义线性变换
  \[
    \symscr{A}_{\eta}\colon V\rightarrow V, \alpha\mapsto \alpha-2\pair{\eta, \alpha} \eta.
  \]
  \begin{enumerate}
    \item 证明$\symscr{A}_{\eta}$是第二类正交变换（$\symscr{A}_\eta$这样的正交变换称为镜面反射）。
    \item 证明$V$上的线性变换$\symscr{A}$是镜面反射当且仅当存在$V$的标准正交基使得$\symscr{A}$在该基下的矩阵为$\diag(-1, 1, \cdots, 1)$.
    \item 
      假设$V$上的正交变换$\symscr{A}$以$1$为特征值，且属于特征值$1$的特征子空间的维数为$n-1$. 证明$\symscr{A}$是镜面反射。
  \end{enumerate}
\end{exercise}

\begin{solution}

  \begin{enumerate}
    \item 将$\eta=\eta_1$扩充为$V$的标准正交基$(\eta_1, \cdots, \eta_n)$.
      那么$\symscr{A}$在此基下的矩阵为$\diag(-1,1,\cdots,1)$. 这是第二类正交矩阵，所以$\symscr{A}$是第二类正交变换。
    \item ($\Rightarrow$) 部分已在(1)中证明。
      我们证明 ($\Leftarrow$).
      设$\symscr{A}$在标准正交基$(\eta_1, \cdots, \eta_n)$下矩阵为$\diag(-1, 1, \cdots, 1)$.
      那么
      \[
        \begin{cases}
          \symscr{A}(\eta_1)=-\eta_1 = \symscr{A}_{\eta_1}(\eta_1),\\
          \symscr{A}(\eta_i)=\eta_i = \symscr{A}_{\eta_1}(\eta_i), & \text{若$i>1$}.
        \end{cases}
      \]
      这样$\symscr{A}=\symscr{A}_{\eta_1}$.
    \item 
      记$W$为特征值$1$的特征子空间，由题设有$\dim W=n-1$.
      $W$为$\symscr{A}$-不变子空间，
      故由练习~\ref{074}~知$W^{\perp}$也是。
      而$\dim W^\perp=1$, 故$W^\perp$由$\symscr{A}$的一个特征向量生成。
      相应的特征值$\lambda$显然不是$1$, 否则$W^{\perp}\subset W$, 
      从而$W=V$ (因为$V=W+W^{\perp}$), 这不可能。
      特别地，$1$是$n-1$重特征值。
      我们知道所有特征值的积等于行列式，
      而正交变换的行列式为$\pm 1$, 因此特征值$\lambda$只能是$-1$.
      取$W^\perp$中一单位向量与$W$的标准正交基拼起来可得$V$的标准正交基，
      $\symscr{A}$在此基下的矩阵显然为$\diag(-1,1,\cdots,1)$. 所以$\symscr{A}$是镜面反射。
  \qedhere
  \end{enumerate}
\end{solution}


\begin{exercise}
  \begin{enumerate}
\item \tiyuan{\cite[P271,9]{PWS19}}
  设$\alpha, \beta$是欧氏空间中两不同的单位向量，证明存在镜面反射$\symscr{A}$使得$\symscr{A}\alpha=\beta$.
\item  证明欧氏空间上的正交变换可表示为一系列镜面反射的乘积。
  \end{enumerate}
\end{exercise}

\begin{solution}

  \begin{enumerate}
    \item 我们知道镜面反射由其特征值$-1$的特征向量决定。
      假设存在镜面反射$\symscr{A}_\eta$使得$\symscr{A}_\eta(\alpha)=\beta$.
      %我们试着找到属于特征值$-1$的单位特征向量$\eta$所满足的条件。
      %\fangfa 
      注意到 $\sA_{\eta}^2=\sE$. 若 $\sA_{\eta}\alpha=\beta$, 则 $\alpha=\sA_{\eta} \beta$.
      从而 $\sA_{\eta}(\alpha-\beta)=-(\alpha-\beta)$. 
      这样 $\frac{\alpha-\beta}{\norm{\alpha-\beta}}$ 就是一个属于特征值 $-1$
      的单位特征向量。取 $\eta$ 为此向量即可。
(当然以上都是思考过程，答题时不必写)。
%      \fangfa 我们知道$V=V_1\oplus V_2$, 其中$V_1=\symbf{R} \eta$和$V_2$分别是属于特征值$-1$和$1$的特征子空间。
%      设$\alpha=a \eta + \alpha', \beta= b\eta + \beta'$, 其中$\alpha', \beta'\in V_2$.
%      这样
%      \begin{gather*}
%        b\eta + \beta' =  \beta =  \symscr{A}_\eta \alpha = \symscr{A}_\eta(a \eta+ \alpha')= -a\eta  + \alpha', \quad \text{亦即}\\
%        (a+b)\eta +\beta' - \alpha' = 0.
%      \end{gather*}
%      这样$a+b=0$, $\alpha'=\beta'$. 
%      所以$\eta = \frac{1}{2a} (\alpha-\beta)$. 可见$\eta$是$\alpha-\beta$的倍。
     % 回到我们的问题。有了上面的讨论，我们知道如何取到定义镜面反射的单位向量了
      
      令
      \[
        \eta = \frac{\alpha-\beta}{\norm{\alpha-\beta}}.
      \]
      此时（注意到$\alpha, \beta$都是单位向量）
      \begin{align*}
        \symscr{A}_\eta \alpha
        &=  \alpha-2\pair{\eta, \alpha}\eta \\
        &= \alpha- 2\frac{\pair{\alpha-\beta, \alpha}}{\pair{\alpha-\beta, \alpha-\beta}} (\alpha-\beta) \\
        &= \alpha- 2\frac{1-\pair{\beta, \alpha}}{2-2\pair{\alpha, \beta}} (\alpha-\beta) \\
        &= \beta.
      \end{align*}
      所以$\symscr{A}_{\eta}$就是想要的镜面反射。
    \item 设$\symscr{A}$是$n$维欧氏空间$V$上的正交变换。
      我们对空间的维数$n$归纳。$n=1$时，线性变换是数乘，$1=(-1)\times (-1)$表明了想要的存在性。
      考虑$n>1$. 
      取单位向量$\alpha$. 此时$\sA \alpha$也是单位向量，因为正交变换保持长度。
      由(1)知存在镜面反射$\symscr{A}_1$使得$\symscr{A}_1\alpha=\symscr{A}\alpha$.
      $\symscr{A}'=\symscr{A}_1^{-1}\symscr{A}$是正交变换，且$\alpha$是其特征值$1$的特征向量。
      由于$\symbf{R} \alpha$是$\symscr{A}'$-不变子空间，
      $V'=(\symbf{R} \alpha)^\perp$也是。
      由归纳假设，$\symscr{A}'|_{V'}$可以写为一些$V'$上的镜面反射的乘积。
      这些镜面反射可以唯一地延拓为$V$上的固定子空间$\symbf{R}\alpha$的镜面反射。
      进而$\symscr{A}'=\symscr{A}_1^{-1}\symscr{A}$是这些镜面反射的乘积。
      所以$\symscr{A}=\symscr{A}_1\symscr{A}'$是一些镜面反射的乘积。
\qedhere
\end{enumerate}
\end{solution}


\begin{exercise}\label{1FE} %\marked
设$A, B$是两个$n$阶可逆实矩阵，且满足$A^{\rT}A=B^{\rT}B$. 证明：存在正交矩阵$U$使得$UA=B$. 
\end{exercise}
更一般的结论见练习 \ref{070}.

\begin{solution}
  令 $U=BA^{-1}$. 那么
  \[
    U^{\rT}U = (BA^{-1})^{\rT} (BA^{-1})=(A^{-1})^{\rT} (B^{\rT} B) A^{-1}=
    (A^{-1})^{\rT} A^{\rT}A A^{-1}=E.
  \]
故 $U$ 是正交矩阵，且 $UA=B.$ 证毕。
\end{solution}



\paragraph*{习题 9.4\quad 子空间}

\begin{exercise}\tiyuan{\cite[P268,10]{PWS19}}
  设$V$是一$n$维欧氏空间，$0\neq \alpha$是$V$中一固定向量。
  \begin{enumerate}
    \item 证明$V_1=\{x\in V\mid \pair{x,\alpha}=0\}$为$V$的子空间。
    \item 证明$\dim V_1=n-1$.
  \end{enumerate}
\end{exercise}

\begin{solution}
  可以通过验证$V_1$对加法和数乘封闭来证明其是子空间。不过，实际上，
  令$V_0=L(\alpha)$为$\alpha$生成的子空间，则显然$V_1=V_0^{\perp}$.
  特别地，$V_1$是子空间，且$\dim V_1=\dim V-\dim V_0=n-1$.
\end{solution}

\paragraph*{习题 9.5\quad 实对称矩阵的谱理论}


\begin{exercise}
  令$A=(a_{ij})\in \bC^{n\times n}$. 定义$A$的共轭矩阵、共轭转置分别为
  \[
    \bar{A}=(\bar{a}_{ij}),\quad A^{\rH}=\bar{A}^{\rT},
  \]
  其中$\bar{a}_{ij}$为$a_{ij}$的复共轭。证明
  对$M, N\in \bC^{n\times n}, c\in \bC$有
    \[
      \begin{gathered}
        \bar{\bar{M}} = M,\quad \overline{MN}=\bar{M}\bar{N},\quad 
        \overline{M+N}=\bar{M}+\bar{N}, \quad \overline{c M} =\bar{c} \bar{M},\quad
        \bar{A}^{\rT}=\overline{A^{\rT}},\\
       (M^{\rH})^{\rH}=M,\quad (MN)^{\rH} =N^{\rH}M^{\rH},\quad  
       (M+N)^{\rH}=M^{\rH}+N^{\rH},\quad (cM)^{\rH}=\bar{c} M^{\rH}.
      \end{gathered}
  \]
\end{exercise}

\begin{solution}
  略。
\end{solution}

\begin{exercise}\label{089}
  设$A$是斜称的实矩阵。证明：
  \begin{enumerate}
    \item \tiyuan{\cite[P269,16]{PWS19}}
      $A$的特征值为$0$或纯虚数。
    \item 对$t>0$, $\det (tE +A)>0$.
    \item 比 (2) 更一般地，若$B$为正定阵，则$\det(B+A)>0$.
  \end{enumerate}
\end{exercise}

\begin{solution}

  \begin{enumerate}
    \item 设$A\in \symbf{R}^{n\times n}$, $\lambda\in \symbf{C}$为$A$的特征值，$\alpha\in \symbf{C}^{(n)}$为相应的一个特征向量。
      此时$A\alpha=\lambda \alpha$. 这样我们有$\alpha^{\rH} A\alpha= \lambda \alpha^{\rH} \alpha$. 
      取共轭转置得$\alpha^{\rH} A^{\rH} \alpha=\bar{\lambda}\alpha^{\rH} \alpha$. 由于$A^{\rH}=A^{\rT}=-A$,
      我们有$\alpha^{\rH} A \alpha=-\bar{\lambda} \alpha^{\rH} \alpha$. 
      因此$(\lambda+\bar{\lambda})\alpha^{\rH} \alpha=0$. 由于$\alpha\neq 0$, 我们有$\alpha^{\rH} \alpha>0$, 所以$\lambda+\bar{\lambda}=0$, 这样$\lambda$是$0$或纯虚数。
    \item 我们知道$tE+A$的复特征值都形如$t+\lambda$, 其中$\lambda$是$A$的复特征值。
      既然$\lambda=0$或$\lambda$是纯虚数，
      $tE+A$的特征值或为$t$或为虚数。
      $tE+A$是实矩阵，其虚特征值都是以共轭对的形式成对地出现的，
      这样它们的乘积大于$0$. 又$t>0$, 从而，作为所有复特征值的乘积，$\det(t E+A)>0$.
    \item 存在可逆矩阵$C$使得$C^{\rT} B C=E$. 
      注意到$C^{\rT}(B+A)C=E+C^{\rT}AC$形如单位矩阵加斜称矩阵，
      应用(2)知其行列式大于$0$. 这样 
      \[
       0< |C^{\rT}(B+A)C|=|C|^2|B+A|,
      \]
        故 $|B+A|>0$.
  \qedhere
  \end{enumerate}
\end{solution}





\begin{exercise} \tiyuan{\cite[P269,17]{PWS19}}
  求正交矩阵$P$使得$P^{T}AP$为对角矩阵，其中$A$为
    \begin{enumerate}
      \item \tiyuan{\cite[P269,17(1)]{PWS19}}
        $\begin{pmatrix}
          2 & -2 & 0 \\
          -2 & 1 & -2\\
          0 & -2 & 0
        \end{pmatrix}$.
      \item \tiyuan{\cite[P269,17(2)]{PWS19}}
        $\begin{pmatrix}
          2 & 2 & -2\\
          2 & 5 & -4\\
          -2 & -4 & 5
        \end{pmatrix}$.
      \item %\marked
 $\begin{pmatrix}
          4 & 2 & 2\\
          2 & 4 & 2\\
          2 & 2 & 4
        \end{pmatrix}$.
      \item \tiyuan{\cite[P269,17(3)]{PWS19}}
        $\begin{pmatrix}
          0& 0& 4 & 1\\
          0 & 0 & 1 & 4\\
          4 & 1 & 0 & 0\\
          1 & 4 & 0 & 0
        \end{pmatrix}$. 
      \item \tiyuan{\cite[P260,例]{PWS19}}
        $\begin{pmatrix}
          0 & 1  & 1 & -1\\
          1 & 0 & -1 & 1\\
          1 & -1 & 0 & 1\\
          -1 & 1 & 1 & 0
        \end{pmatrix}$.
      \item %\marked
 $\begin{pmatrix}
    -1 & 4 & -2 \\
    4 & -1 & 2 \\
    -2 & 2 & 2
  \end{pmatrix}$.
    \end{enumerate}
\end{exercise}


\begin{solution}我们知道实对称矩阵$A$可以在实数域上相似对角化，
  所以$n$阶实对称矩阵有$n$个线性无关的特征向量，
  $\symbf{R}^{(n)}$可以写为$A$的特征子空间的直和；
  并且这些特征子空间是两两正交的，
  所以我们可以通过对每个特征值$\lambda_i$的特征子空间$V_{\lambda_i}$的一组基，
  即齐次线性方程组$(\lambda_i E-A)X=0$的一个基础解系，
  做Gram-Schmidt正交化过程得到$V_{\lambda_i}$的标准正交基，
  然后把这些标准正交的向量拼起来可以得到一个正交矩阵$P$, 且$P^{\rT}AP$是对角矩阵。

  \begin{enumerate}
    \item 我们先算下$A$的特征多项式。
      我们有
      \begin{align*}
        |\lambda E-A|&= \begin{vmatrix}
          \lambda-2 & 2 & 0\\
          2 & \lambda-1 & 2\\
          0 & 2 & \lambda
        \end{vmatrix}= (\lambda-2)\begin{vmatrix}
          \lambda-1 & 2 \\ 2 & \lambda
        \end{vmatrix} - 2 \begin{vmatrix}
          2 & 2 \\ 0& \lambda
        \end{vmatrix} \\
        &= \lambda^3-3\lambda^2-6\lambda+8
        = (\lambda-4)(\lambda-1)(\lambda+2).
      \end{align*}
      所以$A$的特征值为$4, 1, -2$. 
      我们下面找到每个特征子空间的一组标准正交基。
      \iffalse
      考虑齐次线性方程组$(4E-A)x=0$. 行化简系数矩阵可得：
      \[
        4E-A=\begin{pmatrix}
          2 & 2 & 0\\
          2 & 3 & 2\\
          0 & 2 &4
        \end{pmatrix}\longrightarrow \begin{pmatrix}
          2 & 2  & 0\\
          0 & 1 & 2\\
          0 & 2 & 4
        \end{pmatrix}\\
        \longrightarrow
        \begin{pmatrix}
          1 & 1  &0\\
          0 & 1 & 2\\
          0 & 0 & 0
        \end{pmatrix}.
      \]
      所以$(4E-A)x=0$与
      \[
        \left\{ 
          \begin{array}[]{rrrl}
            x_1 & +x_2 & & =0\\
            & x_2 & +2x_3 &=0
          \end{array}
        \right.
      \]
      同解。
      取$x_3=1$, 回代可解得$x_2=-2, x_1=2$. 
      这样我们得到了一个属于特征值$4$的单位特征向量$\eta_1=\frac{1}{3}(2,-2,1)^{\rT}$.
      接着考虑齐次线性方程组$(E-A)x=0$. 行化简系数矩阵可得：
      \[
        E-A=\begin{pmatrix}
          -1 & 2 & 0\\
          2 & 0 & 2\\
          0 & 2 & 1
        \end{pmatrix}\longrightarrow 
        \begin{pmatrix}
          -1 & 2 & 0\\
          0 & 4 & 2\\
          0 & 2 & 1
        \end{pmatrix}\longrightarrow 
        \begin{pmatrix}
          -1 & 2 & 0\\
          0 & 2 & 1\\
          0 & 0 & 0
        \end{pmatrix}.
      \]
      所以$(E-A)x=0$与
      \[
        \left\{ 
          \begin{array}[]{rrrl}
            -x_1 & +2x_2 & &=0\\
            & 2x_2 & +x_3 &= 0
          \end{array}
        \right.
      \]
      同解。
      取$x_3=-2$, 回代可解得$x_2=1, x_1=2$. 
      这样我们得到了一个属于特征值$1$的单位特征向量$\eta_2=\frac{1}{3}(2,1,-2)^{\rT}$.
      最后考虑齐次线性方程组$(-2E-A)x=0$. 行化简系数矩阵可得：
      \[
        -2E-A=\begin{pmatrix}
          -4 & 2 & 0\\
          2 & -3 & 2\\
          0 & 2 & -2
        \end{pmatrix}\longrightarrow
        \begin{pmatrix}
          2 & -3 & 2\\
          0 & 1  &-1 \\ 
          0 & 0 & 0
        \end{pmatrix}.
      \]
      所以$(-2E-A)x=0$与
      \[
        \left\{ 
          \begin{array}[]{rrrl}
            2x_1 & -3x_2 & +2x_3 &=  0\\
            & x_2 & -x_3&= 0
          \end{array}
        \right.
      \]
      同解。
      取$x_3=1$, 回代解得$x_2=1, x_1=\frac{1}{2}$.
      这样我们得到了一个属于特征值$-2$的单位特征向量$\eta_3=\frac{1}{3}(1,2,2)^{\rT}$.
    \fi
    齐次线性方程组$(4E-A)X=0$的一个基础解系为$(2,-2,1)^{\rT}$, 单位化后得
一个属于特征值$4$的单位特征向量$\eta_1=\frac{1}{3}(2,-2,1)^{\rT}$;
齐次线性方程组$(E-A)X=0$的一个基础解系为$(2,1,-2)^{\rT}$, 单位化后得
一个属于特征值$1$的单位特征向量$\eta_2=\frac{1}{3}(2,1,-2)^{\rT}$;
齐次线性方程组$(-2E-A)X=0$的一个基础解系为$(1,2,2)^{\rT}$, 单位化后得
一个属于特征值$-2$的单位特征向量$\eta_3=\frac{1}{3}(1,2,2)^{\rT}$
      此时令
      \[
        P=\begin{pmatrix}
        \eta_1 & \eta_2 & \eta_3
      \end{pmatrix} = \frac{1}{3}\begin{pmatrix}
        2 & 2 & 1\\
        -2 & 1 & 2\\
        1 & -2 & 2
    \end{pmatrix},\quad
    D=\begin{pmatrix}
      4 \\ & 1 \\ && -2
    \end{pmatrix}.
  \]
    那么$P$是正交矩阵，且$P^{\rT}AP=D$.
  \item 我们先算下$A$的特征多项式。
      我们有
      \begin{align*}
        |\lambda E-A|&= \begin{vmatrix}
          \lambda-2 & -2 & 2\\
          -2 & \lambda-5 & 4\\
          2 & 4  & \lambda-5
        \end{vmatrix}=\begin{vmatrix}
          \lambda-2 & -2 & 2\\
          -2 & \lambda-5 & 4\\
          0 & \lambda-1 & \lambda-1
        \end{vmatrix}\\
        &= (\lambda-1)
\begin{vmatrix}
          \lambda-2 & -2 & 2\\
          -2 & \lambda-5 & 4\\
          0 & 1 & 1
        \end{vmatrix}=
        (\lambda-1)
\begin{vmatrix}
          \lambda-2 & -4 & 2\\
          -2 & \lambda-9 & 4\\
          0 & 0 & 1
        \end{vmatrix}  \\
        & =
        (\lambda-1)\begin{vmatrix}
          \lambda-2 & -4\\
          -2  & \lambda-9
        \end{vmatrix} 
        %=  (\lambda-1)(\lambda^2-11\lambda+10)
        = (\lambda-1)^2(\lambda-10).
      \end{align*}
        所以$A$的特征值为$1, 1, 10$. 
        \iffalse
      我们下面找到每个特征子空间的一组基。
      考虑齐次线性方程组$(E-A)x=0$. 行化简系数矩阵可得：
      \[
        E-A=\begin{pmatrix}
          -1 & -2 & 2\\
          -2 & -4 & 4\\
          2 & 4 & -4
        \end{pmatrix}\longrightarrow 
        \begin{pmatrix}
          1 & 2 & -2 \\
          0 & 0 &0 \\
          0 & 0 &0
        \end{pmatrix}.
      \]
      所以$(E-A)x=0$与$x_1+2x_2-2x_3=0$同解。
      取$(x_2, x_3)=(1,0)$, 得一个解$\alpha_1=(-2,1,0)^{\rT}$; 取$(x_2,x_3)=(0,1)$, 得一个解$\alpha_2=(2,0,1)^{\rT}$.
      这两个解就构成了特征值$1$的特征子空间的一组基。
      下面对$(\alpha_1, \alpha_2)$进行Gram-Schmidt正交化过程来得到一组$V_{\lambda=1}$的标准正交基。
      先正交化：令
      \begin{align*}
        \beta_1&= \alpha_1=(-2,1,0)^{\rT},\\
        \beta_2&= \alpha_2-\frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)} \beta_1 = \frac{1}{5}(2,4,5)^{\rT}.
      \end{align*}
      再规范化（单位化）：
      令
      \begin{align*}
        \eta_1&= \frac{\beta_1}{|\beta_1|}=\frac{1}{\sqrt{5}}(-2, 1, 0)^{\rT},\\
        \eta_2&= \frac{\beta_2}{|\beta_2|}=\frac{1}{\sqrt{45}}(2,4,5)^{\rT}.
      \end{align*}
      接着考虑齐次线性方程组$(10E-A)x=0$. 行化简系数矩阵可得：
      \[
        10E-A=\begin{pmatrix}
          8 & -2 & 2\\
          -2 & 5 & 4\\
          2 & 4 & 5
        \end{pmatrix}\longrightarrow 
        \begin{pmatrix}
          -2 & 5 & 4\\
          0 & 9 & 9\\
          0 & 18  &18
        \end{pmatrix}\longrightarrow
        \begin{pmatrix}
          -2 & 5 & 4\\
          0 & 1  & 1\\
          0 & 0 & 0
        \end{pmatrix}.
      \]
      所以$(10E-A)x=0$与
      \[
        \left\{ 
          \begin{array}[]{rrrl}
            -2x_1 & +5x_2 & +4x_3&= 0\\
            & x_2 & +x_3 &= 0
          \end{array}
        \right.
      \]
      同解。
      取$x_3=1$, 回代解得$x_2=-1, x_1=-\frac{1}{2}$. 
      这样我们得到属于特征值$10$的单位特征向量
      $\eta_3=\frac{1}{3}(1,2,-2)^{\rT}$.
    \fi
齐次线性方程组$(E-A)X=0$的一个基础解系为
\[
  \alpha_1=(-2,1,0)^{\rT},\quad \alpha_2=(2,0,1)^{\rT}.
\]
接着对$\alpha_1, \alpha_2$进行Gram-Schmidt正交化过程：
      先正交化，令
      \begin{align*}
        \beta_1&= \alpha_1=(-2,1,0)^{\rT},\\
        \beta_2&= \alpha_2-\frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)} \beta_1 = \frac{1}{5}(2,4,5)^{\rT};
      \end{align*}
      再规范化（单位化），
      令
      \begin{align*}
        \eta_1&= \frac{\beta_1}{|\beta_1|}=\frac{1}{\sqrt{5}}(-2, 1, 0)^{\rT},\\
        \eta_2&= \frac{\beta_2}{|\beta_2|}=\frac{1}{\sqrt{45}}(2,4,5)^{\rT}.
      \end{align*}
     $\eta_1, \eta_2$ 就是属于特征值$1$的一组 (极大线性无关的) 标准正交的特征向量。
      齐次线性方程组$(10E-A)X=0$的一个基础解系为$(1,2,-2)^{\rT}$,
     单位化就得到属于特征值$10$的单位特征向量
      $\eta_3=\frac{1}{3}(1,2,-2)^{\rT}$.
      现在令
      \[
        P=\begin{pmatrix}
          \eta_1 & \eta_2 & \eta_3
        \end{pmatrix} =\begin{pmatrix}
          -\frac{2}{\sqrt{5}} & \frac{2}{\sqrt{45}} & \frac{1}{3}\\
          \frac{1}{\sqrt{5}} & \frac{4}{\sqrt{45}} & \frac{2}{3}\\
          0 & \frac{5}{\sqrt{45}} & -\frac{2}{3}
        \end{pmatrix},\quad 
        D=\begin{pmatrix}
          1 \\ & 1 \\ && 10
        \end{pmatrix},
      \]
      那么$P$为正交矩阵，且$P^{\rT}AP=D$.
    \item 我们先算下$A$的特征多项式：
        \begin{align*}
        |\lambda E-A|&= \begin{vmatrix}
          \lambda-4 & -2 & -2\\
          -2 & \lambda-4 & -2\\
          -2 & -2  & \lambda-4
        \end{vmatrix}=\begin{vmatrix}
          \lambda-8 & -2 & -2 \\
          \lambda-8 & \lambda-4 & -2 \\
          \lambda-8 & -2 & \lambda-4
        \end{vmatrix}\\
        &= 
        (\lambda-8) \begin{vmatrix}
          1 & -2 & -2 \\
          1 & \lambda-4 & -2 \\
          1 & -2 & \lambda-4
        \end{vmatrix} = (\lambda-8) \begin{vmatrix}
          1 & -2 & -2 \\
          0 & \lambda-2 & 0 \\
          0 & 0 & \lambda-2
        \end{vmatrix}\\
        &= (\lambda-8)(\lambda-2)^2.
      \end{align*}
    所以$A$的特征值为$8, 2, 2$. 
    \iffalse
      我们下面找到每个特征子空间的一组基。
      考虑齐次线性方程组$(2E-A)x=0$. 行化简系数矩阵可得：
      \[
        2E-A=\begin{pmatrix}
          -2  & -2 & -2 \\
          -2 & -2 & -2 \\
          -2 & -2 & -2 
        \end{pmatrix}\longrightarrow \begin{pmatrix}
          1 & 1 & 1 \\
          0 & 0 & 0 \\
          0 & 0 & 0
        \end{pmatrix}.
      \]
      所以$(E-A)x=0$与$x_1+x_2+x_3=0$同解。
      自由变元为$x_2, x_3$. 取$(x_2,x_3)=(1,0)$, 可得到一个解$\alpha_1 =(-1, 1, 0)^{\rT}$; 
      取$(x_2, x_3)=(0,1)$, 可得到一个解$\alpha_2=(-1, 0, 1)$. 
      这样$\alpha_1, \alpha_2$就构成了特征子空间$V_{\lambda=1}$的一组基。
  下面对$(\alpha_1, \alpha_2)$进行Gram-Schmidt正交化过程来得到一组$V_{\lambda=1}$的标准正交基。
      先正交化：令
      \begin{align*}
        \beta_1 &=  \alpha_1= (-1, 1, 0)^{\rT},\\
        \beta_2 &=  \alpha_2- \frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)}\beta_1 = \frac{1}{2}(-1, -1, 2)^{\rT}.
      \end{align*}
      再规范化：
      令
      \begin{align*}
        \eta_1&= \frac{\beta_1}{|\beta_1|}=\frac{1}{\sqrt{2}}(-1, 1,0)^{\rT},\\
        \eta_2&= \frac{\beta_2}{|\beta_2|}=\frac{1}{\sqrt{6}}(-1,-1,2)^{\rT}.
      \end{align*}
      这样$(\eta_1, \eta_2)$就构成了$V_{\lambda=1}$的一组标准正交基。
      接着考虑齐次线性方程组$(8E-A)x=0$. 行化简系数矩阵可得：
      \[
        8E-A=\begin{pmatrix}
          4 & -2 & -2 \\
          -2 & 4  & -2 \\
          -2 & -2 & 4
        \end{pmatrix}\longrightarrow 
        \begin{pmatrix}
          2 & -1 & -1 \\
          0 &  1 & -1\\
          0 & 0 & 0
        \end{pmatrix}.
      \]
  所以$(8E-A)x=0$与线性方程组
  \[
    \left\{ 
      \begin{array}[]{rrrl}
        2x_1 & -x_2 & -x_3&= 0\\
        & x_2 & -x_3 &= 0
      \end{array}
    \right.
  \]
  同解。自由变元只有$x_3$. 任取$x_3=1$, 回代可解得$x_2=x_1=1$. 
  所以$(1,1,1)^{\rT}$构成$(8E-A)x=0$的基础解系，
  规范化得属于特征值$8$的单位特征向量$\eta_3=\frac{1}{\sqrt{3}}(1,1,1)^{\rT}$. 
\fi
齐次线性方程组$(2E-A)X=0$的一个基础解系为
\[
  \alpha_1 =(-1, 1, 0)^{\rT},\quad \alpha_2=(-1, 0, 1).
\]
  接着对$\alpha_1, \alpha_2$进行Gram-Schmidt正交化过程：
      先正交化，令
      \begin{align*}
        \beta_1 &=  \alpha_1= (-1, 1, 0)^{\rT},\\
        \beta_2 &=  \alpha_2- \frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)}\beta_1 = \frac{1}{2}(-1, -1, 2)^{\rT};
      \end{align*}
      再单位化，
      令
      \begin{align*}
        \eta_1&= \frac{\beta_1}{|\beta_1|}=\frac{1}{\sqrt{2}}(-1, 1,0)^{\rT},\\
        \eta_2&= \frac{\beta_2}{|\beta_2|}=\frac{1}{\sqrt{6}}(-1,-1,2)^{\rT}.
      \end{align*}
      $\eta_1, \eta_2$ 就是属于特征值$2$的一组 (极大线性无关的) 标准正交的特征向量。
      齐次线性方程组$(8E-A)X=0$的一个基础解系为$(1,1,1)^{\rT}$,
     单位化就得到属于特征值$8$的单位特征向量
$\eta_3=\frac{1}{\sqrt{3}}(1,1,1)^{\rT}$. 
  现在令
      \[
        P=\begin{pmatrix}
          \eta_1 & \eta_2 & \eta_3
        \end{pmatrix} = 
        \begin{pmatrix}
          -\frac{1}{\sqrt{2}} & -\frac{1}{\sqrt{6}} & \frac{1}{\sqrt{3}} \\
          \frac{1}{\sqrt{2}} &  -\frac{1}{\sqrt{6}} & \frac{1}{\sqrt{3}} \\
          0 & \frac{2}{\sqrt{6}} & \frac{1}{\sqrt{3}}
        \end{pmatrix},\quad
        D=\begin{pmatrix}
          2 \\ & 2 \\ && 8
        \end{pmatrix},
      \]
      那么$P$是正交矩阵，且$P^{\rT}AP=D$.
    \item  我们先算下$A$的特征多项式：
      \begin{align*}
        |\lambda E- A|&= \begin{vmatrix}
          \lambda & & -4 & -1 \\
          & \lambda & -1 & -4\\
          -4 & -1 & \lambda & \\
          -1 & -4 & & \lambda
        \end{vmatrix}
        \overset{\circled{1}}{=} \begin{vmatrix}
          \begin{pmatrix}
            \lambda \\ & \lambda
          \end{pmatrix} 
          \begin{pmatrix}
            \lambda \\ & \lambda
          \end{pmatrix} - \begin{pmatrix}
             -4 & -1 \\ -1 & -4
          \end{pmatrix}
            \begin{pmatrix}
               -4 & -1 \\ -1 & -4
          \end{pmatrix}
        \end{vmatrix} \\
        &= \begin{vmatrix}
          \begin{pmatrix}
            \lambda^2 \\ & \lambda^2
          \end{pmatrix}- 
          \begin{pmatrix}
            17 & 8\\
            8 & 17
          \end{pmatrix}
        \end{vmatrix} = (\lambda^2-17)^2-64\\
        &= (\lambda-5)(\lambda+5)(\lambda-3)(\lambda+3),
      \end{align*}
      其中 \circled{1} 用了如下的公式：若$X, Y, Z, W$是同阶的数域上的方阵且$XZ=ZX$, 则
      \[
        \begin{vmatrix}
          X & Y\\ Z & W
        \end{vmatrix}= \begin{vmatrix}
          XW-ZY
        \end{vmatrix}.
      \]
      可以算得分别属于$5,-5,3,-3$的单位特征向量
      \begin{gather*}
        \alpha_1=\frac{1}{2}(1,1,1,1)^{\rT},\quad \alpha_2=\frac{1}{2}(-1,-1,1,1)^{\rT}, \\
        \alpha_3=\frac{1}{2}(-1,1,-1,1)^{\rT}, \quad \alpha_4=\frac{1}{2}(1,-1,-1,1)^{\rT}.
      \end{gather*}
      令
      \[
        P=\begin{pmatrix}
          \alpha_1 & \alpha_2 & \alpha_3 & \alpha_4
        \end{pmatrix}=\frac{1}{2}\begin{pmatrix}
          1 & -1 & -1 & 1 \\
          1 & -1 & 1 & -1 \\
          1 & 1 & -1 & -1 \\
          1 & 1 & 1 & 1 
        \end{pmatrix},\quad 
        D=\begin{pmatrix}
          5 \\ & -5 \\ & & 3 \\ &&& -3
        \end{pmatrix}
      \]
      那么$P$为正交矩阵，且$P^{\rT} AP=D$.
    \item 注意到所给实对称矩阵的各行和相等，可知$1$是一个特征值（也由$E-A$退化）。
      又$\rank (E-A)=1$, 因此$1$的重数为$3$. 
      这样利用所有特征值之和等于迹可知最后一个特征值为$-3$.

    \item $A$的特征多项式为
      \begin{align*}
        |\lambda E-A|= (\lambda-3)^2(\lambda+6).
      \end{align*}
      所以$A$的特征值为$3, 3, -6$. 
      %我们要找到每个特征子空间的一组标准正交基。
      齐次线性方程组$(3E-A)X=0$的一个基础解系为
      \[
        \alpha_1=(1,1,0)^{\rT}, \quad
        \alpha_2=(-1,0,2)^{\rT}.
      \]
      接着对$\alpha_1, \alpha_2$进行Gram-Schmidt正交化过程：
      先正交化，令
      \begin{align*}
        \beta_1= \alpha_1=(1,1,0)^{\rT},\quad
        \beta_2= \alpha_2-\frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)} \beta_1 = \frac{1}{2}(-1, 1, 4)^{\rT};
      \end{align*}
      再规范化（单位化），
      令
      \begin{align*}
        \eta_1= \frac{\beta_1}{|\beta_1|}=\frac{1}{\sqrt{2}}(1, 1, 0)^{\rT},\quad
        \eta_2= \frac{\beta_2}{|\beta_2|}=\frac{1}{3\sqrt{2}}(-1,1,4)^{\rT}.
      \end{align*}
$\eta_1, \eta_2$ 就是属于特征值$3$的一组 (极大线性无关的) 标准正交的特征向量。
      齐次线性方程组$(-6E-A)X=0$的一个基础解系为$\alpha_3=(2,-2,1)$, 
      单位后可得属于特征值$-6$的单位特征向量
      \[
        \eta_3=\frac{\alpha_3}{|\alpha_3|}=\frac{1}{3}(2,-2,1)^{\rT}.
      \]
      令
      \[
        C=\begin{pmatrix}
          \eta_1 & \eta_2 & \eta_3
        \end{pmatrix} =\begin{pmatrix}
          \frac{1}{\sqrt{2}} & -\frac{1}{3\sqrt{2}} & \frac{2}{3}\\
          \frac{1}{\sqrt{2}} &  \frac{1}{3\sqrt{2}}& -\frac{2}{3}\\
          0 & \frac{4}{3\sqrt{2}} & \frac{1}{3}
        \end{pmatrix},\quad
        D=\begin{pmatrix}
          3 \\ & 3 \\ && -6
        \end{pmatrix},
      \]
      那么$C$为正交矩阵，且$C^{\rT}AC=D$. 
      \qedhere
  \end{enumerate}
\end{solution}

\begin{remark}
  第(1)题中分解$\lambda^3-3\lambda^2-6\lambda+8$时，
  若试出一个整数根$1$后不想再试了，
  也可用$\lambda^3-3\lambda^2-6\lambda+8$除以$\lambda-1$得到商，然后分解商。
  这个可以用长除法得到，不过用综合除法写很明快：
  \[
       \begin{array}{rrrrrrrrr}
          \cline{3-6}
          1 & & 1 & -3 & -6 & 8\\
          & & & 1 &  -2  & -8  \\
           \cline{3-6}
           && 1 & -2 & -8 & 0
       \end{array}
  \]
  所以商是$\lambda^2-2\lambda-8=(\lambda-4)(\lambda+2)$.
\iffalse
  我们来说明下\emph{综合除法}。
  给定多项式$a_nx^n+a_{n-1}x^{n-1}+\cdots+a_1x+a_0\in P[x]$和$a\in P$, 
  要得到$x-a$除$f$的商和余，我们可以如下进行：
  \[
       \begin{array}{rrrrrrrrr}
          \cline{3-7}
          a & & a_n & a_{n-1} & \cdots & a_{1} & a_0\\
          & & & ab_{n-1} &  & \cdots ab_{1} & ab_1 \\
           \cline{3-7}
           && b_{n-1} & b_{n-2} & \cdots& b_{0}  & b_{-1}
       \end{array}
  \]
  其中$b_{n-1}=a_n$, $n-2\geqslant i\geqslant -1$时
  $b_i$如下归纳地得到$b_{i}=a_{i+1}+ab_{i+1}$. 
  这时，我们有$x-a$除$f$的商和余分别为
  $b_{n-1}x^{n-1} + b_{n-2}x^{n-2}+\cdots + b_0$, $b_{-1}$. 
\fi
\end{remark}



\begin{exercise} 
  用正交线性变换把下列二次型化成标准形：
  \begin{enumerate}
    \item $x_1^2+2x_2^2+3x_3^2-4x_1x_2-4x_2x_3$; 
    \item \tiyuan{\cite[P270,18(2)]{PWS19}}%\marked
      $x_2^2-2x_2^2-2x_3^2-4x_1x_2+4x_1x_3+8x_2x_3$; 
    \item \tiyuan{\cite[P270,18(3)]{PWS19}}
      $2x_1x_2+2x_3x_4$.
  \end{enumerate}
\end{exercise}

\begin{solution}
  要用正交线性变换把下列二次型化成标准形，我们写出所给实二次型的矩阵$A$,
  找到正交矩阵$C$使得$C^{\rT}AC=\diag(\lambda_1,\cdots,\lambda_n)$, 
  其中$\lambda_1,\cdots,\lambda_n$为$A$的全部特征值(按重数计入)。
  此时，在正交的线性替换$X=CY$下，所给二次型就被化成了
  $\lambda_1y_1^2+\cdots+\lambda_n y_n^2$.
  \begin{enumerate}
     \item 所给二次型的矩阵为$A=\begin{pmatrix}
        1 & -2 & 0 \\ -2 & 2 & -2\\ 0 & -2 & 3
      \end{pmatrix}$. 
      我们算下$A$的特征多项式：
      \begin{align*}
        |\lambda E-A| &= \begin{vmatrix}
          \lambda-1 & 2 & 0\\
          2 & \lambda-2 & 2 \\
          0 & 2 & \lambda-3
        \end{vmatrix} = (\lambda-1)\begin{vmatrix}
          \lambda-2 & 2\\
          2 & \lambda-3
        \end{vmatrix} 
        -2\begin{vmatrix}
          2 & 0 \\ 2 & \lambda-3
        \end{vmatrix} \\
        &=  \lambda^3-6\lambda^2 +3\lambda +10
        = (\lambda+1) (\lambda-2) ( \lambda-5).
      \end{align*}
      进一步可算得分别属于特征值$-1, 2, 5$的单位特征向量
      \[
        \eta_1=\frac{1}{3}(2,2,1)^{\rT}, \quad \eta_2=\frac{1}{3}(-2,1,2)^{\rT},\quad \eta_3=\frac{1}{3}(1,-2,2)^{\rT}.
      \]
      令
      \[
        P=\begin{pmatrix}
          \eta_1 & \eta_2 & \eta_3
        \end{pmatrix}=\frac{1}{3} \begin{pmatrix}
          2 & -2 & 1\\
          2 & 1 &-2 \\
          1 & 2 & 2
        \end{pmatrix}.
      \]
      那么在正交变换$X=PY$下有
      \[
        x_1^2+2x_2^2+3x_3^2-4x_1x_2-4x_2x_3 = -y_1^2+2y_2^2+5y_3^2.
      \]
    \item 所给二次型的矩阵$A=\begin{pmatrix}
      1 & -2 & 2\\
      -2  & -2 & 4 \\
      2 & 4 & -2
    \end{pmatrix}$.
$A$的特征多项式为
      \begin{align*}
        |\lambda E-A|= (\lambda-2)^2(\lambda+7).
      \end{align*}
      所以$A$的特征值为$2, 2, -7$. 
      %我们要找到每个特征子空间的一组标准正交基。
      齐次线性方程组$(2E-A)X=0$的一个基础解系为
\[
  \alpha_1=(-2,1,0)^{\rT}, \quad \alpha_2=(2,0,1)^{\rT}.
\]
      接着对$\alpha_1, \alpha_2$进行Gram-Schmidt正交化过程：
      先正交化，令
      \begin{align*}
        \beta_1= \alpha_1=(-2,1,0)^{\rT},\quad
        \beta_2= \alpha_2-\frac{(\alpha_2, \beta_1)}{(\beta_1, \beta_1)} \beta_1 = \frac{1}{5}(2, 4, 5)^{\rT};
      \end{align*}
      再规范化（单位化），
      令
      \begin{align*}
        \eta_1= \frac{\beta_1}{|\beta_1|}=\frac{1}{\sqrt{5}}(-2, 1, 0)^{\rT},\quad
        \eta_2= \frac{\beta_2}{|\beta_2|}=\frac{1}{3\sqrt{5}}(2,4,5)^{\rT}.
      \end{align*}
      $\eta_1, \eta_2$ 就是属于特征值$2$的一组 (极大线性无关的) 标准正交的特征向量。
      齐次线性方程组$(-7E-A)X=0$的一个基础解系为$\alpha_3=(-1,-2,2)$, 
      单位化后可得属于特征值$-7$的单位特征向量
      \[
        \eta_3=\frac{\alpha_3}{|\alpha_3|}=\frac{1}{3}(-1,-2,2)^{\rT}.
      \]
      令
      \[
        C=\begin{pmatrix}
          \eta_1 & \eta_2 & \eta_3
        \end{pmatrix} =\begin{pmatrix}
          -\frac{2}{\sqrt{5}} & \frac{2}{3\sqrt{5}} & -\frac{1}{3}\\
          \frac{1}{\sqrt{5}} &  \frac{4}{3\sqrt{5}}& -\frac{2}{3}\\
          0 & \frac{\sqrt{5}}{3} & \frac{2}{3}
        \end{pmatrix},\quad
        D=\begin{pmatrix}
          2\\ & 2 \\ & & -7
        \end{pmatrix},
      \]
      那么$C$为正交矩阵，且$C^{\rT}AC=D$.
因此在正交变换$X=CY$下，所给二次型被化为了标准形
\[
  2y_1^2+2y_2^2-7y_3^2.
\]
    \item 所给二次型的矩阵为$A=\begin{pmatrix}
        0 & 1 & 0 & 0 \\
        1 & 0 & 0 & 0\\
        0 & 0 & 0 & 1\\
        0 & 0 & 1 & 0
      \end{pmatrix}$. 
    我们只用把$B=\begin{pmatrix}
      0 & 1 \\ 1 & 0
    \end{pmatrix}$正交相似到对角矩阵。
    我们知道
    \[
      \begin{pmatrix}
        1 & 1\\ 1 & -1
      \end{pmatrix}
      \begin{pmatrix}
        0 & 1\\ 1 & 0
      \end{pmatrix}
      \begin{pmatrix}
        1 & 1\\ 1 & -1
      \end{pmatrix}=\begin{pmatrix}
        2 \\ & -2
      \end{pmatrix}.
    \]
    我们用线性变换$x_1=y_1+y_2, x_2=y_1-y_2$把$2x_1x_2$变成$2(y_1^2-y_2^2)$时从矩阵的角度看就是上面的关系式。
    注意到$P=\frac{1}{\sqrt{2}} \begin{pmatrix}
      1 & 1 \\ 1 & -1
    \end{pmatrix}$是正交矩阵。令$\Omega = P \oplus P$, 则$\Omega$是正交矩阵，且我们有
    \[
      \Omega^{\rT} A \Omega = \begin{pmatrix}
        P \\ & P
      \end{pmatrix}\begin{pmatrix}
        B\\ & B
      \end{pmatrix}\begin{pmatrix}
        P \\ & P
      \end{pmatrix} = \begin{pmatrix}
        1 \\ & -1 \\ & & 1 \\ &&& -1
      \end{pmatrix}.
    \]
所以在正交线性变换$X=\Omega Y$下有
\[\tag*{\qedhere}
  2x_1x_2+2x_3x_4=y_1^2-y_2^2 +y_3^2-y_4^2.
\]
  \end{enumerate}
\end{solution}



\iffalse
\begin{exercise}%\marked
  设$A\in \symbf{R}^{n\times n}$是实对称矩阵。
  令$p,q$分别为实二次型$f(x)=x^{\rT} Ax$的正惯性指数、负惯性指数，
  其中$x=(x_1, \cdots, x_n)^{\rT}\in \symbf{R}^{(n)}$. 
  考虑如下$\symbf{R}^{(n)}$的子空间的集合
  \[
    S=\{\text{子空间}~V\subset \symbf{R}^{(n)}\mid \text{对任意的$x\in V$有 $f(x)=0$}\}.
  \]
  证明
  \[
    \max\{ \dim V \mid V\in S\}=\min\{n-p,n-q\}.
  \]
\end{exercise}

\begin{solution}
  实际上$\{ \dim V \mid V\in S\}$不随二次型的非退化的线性替换而改变，因此 可设 (欲知细节，见练习~\ref{0AC})
      \[
        A=\begin{pmatrix}
        E_p \\ & -E_q \\ && 0
      \end{pmatrix}.
    \]
 
    先考虑$p\leqslant q$. 令 $e_i\in\bR^{(n)}$为第$i$分量为$1$其余分量为$0$的$n$维列向量， 
  令
  \[
  \begin{aligned}
      V_0&= \Span(e_1+e_{p+1}, \cdots, e_p+e_{2p}, e_{p+q+1},\cdots,e_n)\\
      &= \{ x=(a_1,a_2,\cdots,a_p,a_1,\cdots,a_p,0,\cdots,0,a_{p+q+1},\cdots,a_n)^{\rT}\mid a_i\in \bR\}.
    \end{aligned}
\]
    易知$\dim V_0=p+(n-(p+q))=n-q$.
  对任意的$x\in V_0$有
    \[
      f(v)=\sum_{i=1}^pa_i^2-\sum_{i=1}^{p}a_i^2=0.
    \]
  从而$V_0\in S$. 

  另一方面，令 $V\in S$. 为了证明 $\dim V\leqslant n-q$,
  令 $V_{-1}$ 为 特征值$-1$的特征子空间，有$\dim V_{-1}=q$.
    若$\dim V>n-q$ (特别地，$q>0$), 
    那么 $\dim V+\dim V_{-1}>n$ 表明 $V$与$V_{-1}$ 有非平凡的交，故可
   取$0\neq x\in V\cap V_{-1}$. 
   $0\neq x\in V_{-1}$表明$f(x)=-x^{\rT}x<0$, 而 $x\in V$表明$f(x)=0$, 矛盾了。
  这样对任意的$V\in S$, $\dim V\leqslant n-q$.

    由上面两方面的结论可知$\max \{ \dim V \mid V\in S\}=n-q$.

    若$p\geqslant q$, 考虑二次型$-x^{\rT}Ax$, 
    此二次型的正惯性指数、负惯性指数分别为$q,p$.
    应用刚刚得到的结论可知
  $\max\{\dim V \mid V\in S\}= n-p$.
  这就证明了
    \[\tag*{\qedhere}
      \max\{\dim V\mid V\in S\}=\min\{n-p,n-q\}.
    \]
  \end{solution}
\fi

\begin{exercise}
  已知二次曲面方程
  \[
    x^2+ay^2+z^2+2bxy+2xz+2yz=4
  \]
  可以经过正交变换
  \[
    \begin{pmatrix}
      x\\y\\z
    \end{pmatrix}=P\begin{pmatrix}
      x' \\ y' \\z'
    \end{pmatrix}
  \]
  化为椭圆柱面方程${y'}^2+4{z'}^2=4$. 
  求$a, b$的值和正交矩阵$P$.
\end{exercise}

\begin{solution}
  二次型$x^2+ay^2+z^2+2bxy+2xz+2yz$的矩阵为
  $A=\begin{pmatrix}
    1 & b & 1\\ 
    b& a & 1\\
    1 & 1 & 1 \\
  \end{pmatrix}$.
  由题设知$A$正交相似于为$\diag(0,1,4)$. 
  迹是相似不变量，故$2+a=5$, $a=3$. 
  $0$是$A$的特征值表明$0=\det A=-(b-1)^2$, 从而$b=1$.
  容易计算得分别属于特征值$0, 1, 4$的单位特征向量
  \[
    \alpha_1=\frac{1}{\sqrt{2}}(1,0,-1)^{\rT},\quad
    \alpha_2=\frac{1}{\sqrt{6}}(1,2,1)^{\rT},\quad
    \alpha_3=\frac{1}{\sqrt{3}}(1,-1,1)^{\rT}.
  \]
  那么
  \[
    P=\begin{pmatrix}
      \alpha_1 & \alpha_2 & \alpha_3
    \end{pmatrix}=\begin{pmatrix}
      \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{6}} & \frac{1}{\sqrt{3}}\\
      0 & \frac{2}{\sqrt{6}} & -\frac{1}{\sqrt{3}}\\
      \frac{1}{\sqrt{2}} &  \frac{1}{\sqrt{6}} & \frac{1}{\sqrt{3}}
    \end{pmatrix}
\]
为所要求的正交矩阵。
\end{solution}



\paragraph*{习题 9.6\quad 向量到子空间的距离\textbullet 最小二乘法}


\begin{exercise} %\marked
  设$n$元实线性方程组$AX=\beta$无解。写出一个此线性方程组的最小二乘解$X_0$所需满足的条件 (定义或等价条件)。
\end{exercise}

\begin{solution}
  最小二乘解$X_0$按定义是使得$\norm{AX-\beta}^2$取得最小值的$X=X_0$, 
  即$\norm{AX-\beta}^2\geqslant \norm{AX_0-\beta}^2$,
  对任意的$X\in \bR^{(n)}$.  
  另外，我们也知道满足下列条件之一的$X_0$就是最小二乘解：
  \begin{enumerate}
    \item $AX_0$为$\beta$在$A$的列空间$\Span_c A$中的内射影。
    \item $AX_0-\beta$与$\Span_c A$正交。
    \item $X_0$为线性方程组$A^{\rT}AX=A^{\rT}\beta$的解。
      \qedhere
  \end{enumerate}
\end{solution}

\begin{exercise}\tiyuan{\cite[P270,27]{PWS19}}
  求如下的方程组的最小二乘解（结果取三位有效数字）：
  \[
    \begin{cases}
      0.39x-1.89y=1,\\
      0.61x-1.80y=1,\\
      0.93x-1.68y=1,\\
      1.35x-1.50y=1.
    \end{cases}
  \]
\end{exercise}

\begin{solution}
  令
  \[
    A= \begin{pmatrix}
        0.39 & -1.89 \\
        0.61 & -1.80 \\
        0.93 & -1.68 \\
        1.35 & -1.5
      \end{pmatrix},\quad X=\begin{pmatrix}
        x \\ y
      \end{pmatrix}, \quad 
      \beta=\begin{pmatrix}
        1 \\ 1\\ 1\\ 1
      \end{pmatrix}.
  \]
  $Ax=\beta$的最小二乘解由$A^{\rT}Ax=A^{\rT}\beta$的解给出。我们有
  \[
    A^{\rT}A=\begin{pmatrix}
      3.2116 & -5.4225\\
      -5.4225 & 11.8845
    \end{pmatrix}, \quad A^{\rT}\beta=\begin{pmatrix}
      3.28\\ -6.87
    \end{pmatrix}.
  \]
  由于$A^{\rT}A$可逆，
  $A^{\rT}AX=A^{\rT}\beta$的唯一解近似为
  \[
    \left( A^{\rT}A \right)^{-1}\left( A^{\rT}\beta \right)=(0.197, -0.488)^{\rT},
  \]
  这也是$AX=\beta$的最小二乘解（近似）。
\end{solution}


\paragraph*{习题 9.7\quad 酉空间介绍}

\section{补充题与考研题}


\paragraph*{欧氏空间}

\begin{exercise}
  在 $n$ 维欧几里得空间 $V$ 中，向量 $\alpha, \beta$ 的内积记为 $(\alpha, \beta)$.
  令 $\sigma$ 为 $V$ 的线性变换，定义 $V$ 上新的配对：
  $\langle \alpha, \beta \rangle = (\sigma(\alpha), \sigma(\beta))$.
  请问 $\langle \;, \;\rangle$ 是否为内积？
\end{exercise}
\begin{solution}
  容易验证 $\langle \;,\;\rangle$ 的对称性、双线性性 (只用验证对第一个分量的线性性)。
  我们还需验证正定性是否满足。
  我们总有半正定性： 
  \[
    \langle \alpha, \alpha\rangle=(\sigma(\alpha), \sigma(\alpha))\geqslant 0,
  \]
  而且等号成立当且仅当 $\sigma(\alpha)=0$. 这样$\langle \;, \;\rangle$ 正定
  相当于说： $\sigma(\alpha)=0$ 等价于 $\alpha=0$, 亦即 $\sigma$ 可逆。
故 $\sigma$ 可逆时 $\langle \;, \;\rangle$ 是内积，否则不是。
\end{solution}



\begin{exercise}
  设$A\in \bR^{n\times n}$是正定矩阵，$\alpha, \beta\in \bR^{(n)}$.
  证明
  \[
    (\alpha^{\rT} A\beta)^2\leqslant (\alpha^{\rT} A\alpha)(\beta^{\rT} A\beta).
\]
\end{exercise}

\begin{solution}
\fangfa
  考虑如下定义的$\bR^{(n)}$上的双线性型$\pair{\alpha,\beta}=\alpha^{\rT} A\beta$. 
  $A$正定表明$\pair{\,,\,}$对称正定，故是内积。
  由Cauthy-Schwarz公式$|\pair{\alpha,\beta}|\leqslant \norm{\alpha}\norm{\beta}$知
  \[
(\alpha^{\rT} A\beta)^2\leqslant (\alpha^{\rT} A\alpha)(\beta^{\rT} A\beta).
  \]

  \fangfa 存在可逆矩阵 $P$ 使得 $A=P^{\rT}P$. 令 
\[
  P\alpha=(a_1,\cdots,a_n)^{\rT},\quad P\beta=(b_1,\cdots,b_n)^{\rT}.
\]
经典的Cauthy不等式表明
\[
 (\alpha^{\rT} A\beta)^2= \left(\sum_{i=1}^n a_i b_i\right)^2\leqslant 
  \left( \sum_{i=1}^n a_i^2 \right) \left(  \sum_{i=1}^n b_i^2 \right)
=(\alpha^{\rT} A\alpha)(\beta^{\rT} A\beta).
\tag*{\qedhere}
\]
\end{solution}

\begin{exercise}\label{227}
  设 $A\in \bR^{n\times n}$ 是正定矩阵，$\alpha, \beta\in \bR^{(n)}$. 证明：
\[
(\alpha^{\rT} \beta)^2 \leq (\alpha^{\rT} A \alpha)(\beta^{\rT} A^{-1} \beta).
\]
\end{exercise}

\begin{solution}
由 $A$ 正定知存在可逆实矩阵 $C$ 使得 $A = C^{\rT}C$. 
考虑 $\bR^n$ 带上标准内积给出的欧氏空间。应用Cauthy-Bunyakovski-Schwartz不等式得
  \begin{align*}
  (\alpha^{\rT} A \alpha)(\beta^{\rT} A^{-1} \beta) &=  (\alpha^{\rT} C^{\rT}C \alpha)(\beta^{\rT} C^{-1} (C^{\rT})^{-1} \beta) \\
  &=  (C\alpha, C\alpha) \left( (C^{-1})^{\rT} \beta, (C^{-1})^{\rT} \beta \right)\\
& \geqslant \left( C\alpha, (C^{-1})^{\rT} \beta \right)^2 = \left( \alpha^{\rT} C^{\rT} (C^{-1})^{\rT} \beta \right)^2 \\
&=  (\alpha^{\rT} \beta)^2.
\tag*{\qedhere}
\end{align*}
\end{solution}



\begin{exercise}\label{209}\tiyuan{\parencite[2024]{huananligong}}
  定义在 $\bR^{n \times n}$ 上的内积 $\pair{\,,\,}$ 满足
\[
\pair{A C, B}=\pair{A, C B}, \forall A, B, C \in \bR^{n \times n}
\]
证明： 存在常数 $c>0$, 使得 $\pair{A, B}=c \operatorname{tr}(A B)$.
\end{exercise}
\begin{solution}
考虑线性函数 
\[
  \varphi\colon  \bR^{n \times n} \rightarrow \bR, A \mapsto\pair{A, E}.
\]
那么，对 $A, B \in \bR^{n \times n}$有 
\[
  \varphi(A B)=\pair{A B, E}=\pair{A, B}=\pair{B, A}=\pair{B A, E}=\varphi(B A).
\]
这样由练习 \ref{188} 知 $\varphi(A)=c\tr(A)$, 对某个实数 $c$. 从而
\[
\pair{A, B}=\pair{A B, E}=\varphi(A B)=c\tr(A B).
\]
另外，由 $\pair{E, E}=c \tr E=nc$ 知 $c=\frac{1}{n}\pair{E, E}>0$. 
\end{solution}



\begin{exercise}[Bessel不等式]
  设$\alpha_1, \cdots, \alpha_k$是欧氏空间$V$中一组两两正交的单位向量。
  证明：对任意的$\alpha\in V$有
  \[
    \sum_{i=1}^k \pair{\alpha, \alpha_i}^2\leqslant \norm{\alpha}^2.
  \]
\end{exercise}

\begin{solution}

  将$\alpha_1, \cdots, \alpha_k$扩充为 $\Span(\alpha_1,\cdots,\alpha_k,\alpha)$ 
  的标准正交基得$\alpha_1, \cdots, \alpha_n$.
  此时$\alpha=\sum_{i=1}^n \pair{\alpha, \alpha_i}\alpha_i$. 
  从而
  \[
    \norm{\alpha}^2=\sum_{i=1}^n \pair{\alpha, \alpha_i}^2 \geqslant \sum_{i=1}^k \pair{\alpha, \alpha_i}^2.
    \tag*{\qedhere}
  \]
\end{solution}

\begin{exercise}
  设$A$是$n$阶正定矩阵，$\alpha_1, \cdots, \alpha_n, \beta$
  为欧氏空间$\bR^{(n)}$（带标准内积）中的$n$个向量，满足
  \begin{enumerate}
    \item $\alpha_i\neq 0$, $i=1, \cdots, n$;
    \item $\alpha_i A\alpha_j =0$ ($i\neq j$, $i, j=1,2,\cdots, n$);
    \item $\beta$与所有的$\alpha_i$正交。
  \end{enumerate}
  证明$\beta=0$.
\end{exercise}

\begin{solution}
  考虑$\bR^{(n)}$上的双线性型 
  \[
    \bR^{(n)}\times \bR^{(n)}\rightarrow \bR, (\alpha, \beta)\mapsto \alpha^{\rT} A\beta. 
  \]
  $A$正定表明此双线性型对称正定，故定义了内积。
  在此内积下$\alpha_1, \cdots, \alpha_n$是两两正交的非零向量，
  因此$\alpha_1, \cdots, \alpha_n$线性无关。
  进而$\alpha_1, \cdots, \alpha_n$构成$\bR^{(n)}$的一组基。
  $\beta$与所有$\alpha_i$正交表明$\beta$与$\beta$正交，从而$\beta=0$.
\end{solution}


\begin{exercise}%[{\cite[P181, 5]{wang19}}]
  考虑定义在实轴上的实值函数构成的实向量空间。
  证明对任意的正整数$n$, 下面这些函数的线性无关：
  \[
    1, \sin x, \cos x, \cdots, \sin nx, \cos nx.
  \]
\end{exercise}


\begin{solution}
  %\fangfa 
  只用证明$1, \sin x, \cos x, \cdots, \sin nx, \cos nx$
  作为$[0, 2\pi]$上的实值函数线性无关即可。
  令$V$为$[0,2\pi]$上的实值函数构成的实向量空间。我们知道对$f,g\in V$, 配对
  \[
    \pair{f, g}=\int_0^{2\pi} f(x)g(x) \, \diff x
  \]
  定义了$V$的内积。
  而$1, \sin x, \cos x, \cdots, \sin nx, \cos nx$
  这些函数在此内积下是两两正交的，特别地，它们线性无关。
\iffalse
  \fangfa   
  首先注意到$1, e^{xi}, e^{2xi}, \cdots, e^{m x i}$在$\bC$上线性无关。
  实际上\footnote{也可如下论证。如果我们考虑$[0,2\pi]$上的复值函数构成的复向量空间，以及其上的内积：$\pair{f,g}=\int_0^{2\pi} f\bar{g}\, \diff x$, 那么$e^{-nxi}, \cdots, 1, e^{xi}, e^{2xi}, \cdots, e^{m x i}$是正交的，从而线性无关。}，
  令$\sum_{k=0}^m a_k e^{kxi}=0$, 
  取不同的$\theta_0, \cdots, \theta_m\in (0,1)$, 可得
  \[
    \begin{pmatrix}
      1 & e^{\theta_0 i} & e^{2\theta_0 i} & \cdots & e^{m \theta_0 i}\\
      1 & e^{\theta_1 i} & e^{2\theta_1 i} & \cdots  & e^{m\theta_1 i}\\
      \vdots  & \vdots& & \vdots \\
      1&  e^{\theta_n i} & e^{2\theta_n i}& \cdots & e^{m\theta_n i}
    \end{pmatrix}\begin{pmatrix}
      a_0\\ a_1 \\ \vdots  \\ a_n
    \end{pmatrix}=0,
  \]
  而由Vandermonde行列式知此线性方程组的系数矩阵可逆，从而所有$a_i=0$.
  进而 $e^{-inx}, \cdots, e^{-xi}, 1, e^{xi}, \cdots, e^{inx}$在$\bC$上线性无关。
  考虑线性关系
  \[
    c_0+\sum_{k=1}^n (a_k\cos kx+b_k\sin kx) = 0.
  \]
  这相当于
  \[
    \begin{aligned}
      c_0+\sum_{k=1}^n \left( a_k\frac{e^{kxi}-e^{-kxi}}{2}+b_k\frac{e^{kxi}+e^{-kxi}}{2i} \right)&= 0, \quad \text{亦即}\\
      c_0+\sum_{k=1}^n \left( \frac{a_k-i\,b_k}{2} e^{kxi} + \frac{-a_k-i\,b_k}{2} e^{-kxi} \right)&= 0.
    \end{aligned}
  \]
  由$e^{-inx}, \cdots, e^{-xi}, 1, e^{xi}, \cdots, e^{inx}$的线性无关性可解得$c_0=0$, 且所有的$a_k, b_k$都是$0$.
  这就证明了$1, \sin x, \cos x, \cdots, \sin nx, \cos nx$的线性相关性。
\fi
\end{solution}



\begin{exercise}
  设$A\in \bR^{n\times n}$是正定矩阵，$n$维实列向量构成的向量组
  $S=(\alpha_1, \cdots, \alpha_s)$满足$\alpha_i^{\rT}A\alpha_j=0$, 
  对任意的$1\leqslant i, j\leqslant n$. 请问$\rank S=$?
\end{exercise}

\begin{solution}
  $\pair{\alpha, \beta}=\alpha^{\rT} A\beta$定义了$\bR^{(n)}$上的内积。
  $\alpha_i^{\rT}A\alpha_j=0$ ($1\leqslant i, j\leqslant n$) 表明这些$\alpha_i$是两两正交的向量，
  特别地，它们线性无关。所以$\rank S=s$.
\end{solution}

\begin{exercise}
  我们知道：对实方阵$A$, $\det A^{\rT} A =(\det A)^2\geqslant 0$, 
  等号成立当且仅当$\det A=0$, 或者说，$A$的行是线性相关的。
  证明如下积分的版本：令$C([a,b])$为区间$[a,b]$上的连续函数构成的集合，
  若$f_1, \cdots, f_n\in C([a,b])$, 则
  \[
      \begin{vmatrix}
        \int_a^b f_1^2 \, \diff x & \int_a^b f_1f_2 \, \diff x & \cdots & \int_a^b f_1 f_n \, \diff x\\
        \vdots & \vdots & & \vdots \\
        \int_a^b f_nf_1 \, \diff x & \int_a^b f_n f_2 \, \diff x & \cdots & \int_a^b f_n^2 \, \diff x
      \end{vmatrix}\geqslant 0,
    \]
    其中等号成立当且仅当$f_1, \cdots, f_n$线性相关。
\end{exercise}

\begin{solution}

  我们知道如下的配对定义了实线性空间$C([a,b])$上的内积使得 $C([a,b])$ 成为欧氏空间：
  \[
    \pair{f, g}=\int_a^b f(x) g(x) \, \diff x.
  \]
  %令$W=\Span(f_1, \cdots, f_n)$. 
  %$\pair{\,,\,}$限制为$W$上的内积。
  此时利用练习~\ref{059}~可知结论成立。
\end{solution}



\begin{exercise}
  设$V_1, V_2$是$\bR$上$n$维向量空间$V$的子空间，且$\dim V_1>\dim V_2$.
  证明存在$0\neq v\in V_1$使得$v\perp V_2$.
\end{exercise}

\begin{solution}

  我们有$\dim V_2^\perp + \dim V_2=n$. 而 $\dim V_1>\dim V_2$,
  故$\dim V_2^\perp + \dim V_1>n$, 从而$V_2^\perp \cap V_1\neq \{0\}$.
\end{solution}


\begin{exercise}
令 $\bR^{n \times n}$ 带上内积： $(X,Y) = \tr(X^{\rT}Y)$, 对 $X, Y\in \bR^{n\times n}$.
考虑 $\bR^{n \times n}$ 的两个子空间
\[
  \begin{aligned}
    W_1 &=  \{A \in \bR^{n \times n}\mid A\text{~为对称矩阵}\}, \\ 
    W_2 &=  \{A \in \bR^{n \times n}\mid A \text{~为幂零上三角矩阵}\}.
\end{aligned}
\]
问 $W_1^\perp$, $W_2^\perp$ 分别由什么样的矩阵构成?
\end{exercise}


\begin{solution}
$W_1$ 有一组基： $e_{ii}$ ($i=1,\cdots,n$), $e_{ij}+e_{ji}$ ($1\leqslant i<j\leqslant n$);
$W_2$ 有一组基：$e_{ij}$ ($1\leqslant i<j\leqslant n$) (见练习 \ref{217}).
注意到：若 $X=(x_{ij})$, 则 $(X, e_{ij})=x_{ij}$.
这样 $A=(a_{ij})\in W_1^{\perp}$ 当且仅当 $(A, e_{ii})=0$  ($i=1,\cdots,n$)且
$(A, e_{ij}+e_{ji})=0$ ($1\leqslant i<j\leqslant n$), 当且仅当
$a_{ii}=0$  ($i=1,\cdots,n$)且 $a_{ij}+a_{ji}=0$  ($1\leqslant i<j\leqslant n$),
即 $A$ 是反称矩阵。
类似可知，$\in W_2^{\perp}$ 当且仅当 $A$ 是下三角形矩阵。
这样
\begin{align*}
  W_1^{\perp} &=  \{A \in \bR^{n \times n}\mid A\text{~为反称矩阵}\}, \\ 
W_2^{\perp} &=  \{A \in \bR^{n \times n}\mid A \text{~为下三角形矩阵}\}.
\tag*{\qedhere}
\end{align*}
\end{solution}

\begin{exercise}\tiyuan{\parencite[2024]{hunanshida}}
  在欧氏空间里，我们称 $\alpha - \beta$ 的长度 $\norm{\alpha - \beta}$ 为向量 $\alpha$ 到 $\beta$ 的距离。
已知欧氏空间 $V$ 中有 $n + 1$ 个向量 $\alpha_0, \alpha_1, \cdots, \alpha_n$，两两之间的距离都是 $2$.
令 $\beta_i = \alpha_i - \alpha_0$.
证明：
\begin{enumerate}
  \item  $\pair{\beta_i, \beta_j} = 2$, 对 $i, j = 1, 2, \cdots, n$且 $i \neq j$.
  \item  $\beta_1, \beta_2, \cdots, \beta_n$ 线性无关。
\end{enumerate}
\end{exercise}

\begin{solution}
  (1) 利用内积的性质容易验证
  \[
    \pair{\alpha,\beta}=\frac{1}{2}(\norm{\alpha}^2+\norm{\beta}^2-\norm{\alpha-\beta}^2).
  \]
  这样，$i\neq j$ 时我们有
  \[
  \pair{\beta_i,\beta_j} = \frac{1}{2}( \norm{\beta_i}^2+\norm{\beta_j}^2-\norm{\alpha_i-\alpha_j})
  =2.
  \]

  (2) 我们有 $\pair{\beta_i,\beta_i}=\norm{\alpha_i-\alpha_0}^2=4$. 因此
  矩阵
  \[
    G\coloneq \left( (\beta_i,\beta_j) \right)=\begin{pmatrix}
      4  & 2 & \cdots & 2\\
      2 & 4 & \cdots & 2 \\
      \vdots &  \ddots & \ddots & \vdots \\
      2 & \cdots & 2 & 4
    \end{pmatrix}.
  \]
  易知 $|G|=(2n+2)\cdot 2^{n-1}$. 故 $G$ 可逆。这样由练习 \ref{059} 
  知 $\beta_1,\cdots,\beta_n$ 线性无关。
\end{solution}


\begin{exercise}\label{1F6}\tiyuan{\parencite[2024]{yunnandaxue}}
设 $V$ 是 $n$ 维欧氏空间，$\gamma, \alpha_{1}, \cdots, \alpha_{m} \in V$ 满足 
$(\gamma, \alpha_{k})>0, (\alpha_{i}, \alpha_{j}) \leqslant 0$ 
对一切的 $i, j, k \in\{1,2, \cdots, m\}$ 且 $i \neq j$.
证明： $\alpha_{1}, \cdots, \alpha_{m}$ 线性无关。
特别地，两两夹钝角
 (即夹角大于 $\frac{\pi}{2}$) 的向量不能多于 $n+1$ 个。
\end{exercise}


\begin{solution}
  (容易想到对 $m$ 归纳，又容易发现 $\alpha_1,\cdots,\alpha_{m-1}$正交时结论成立，
故而一般地，可试着Gram-Schmidt正交化。)
对 $m$ 归纳。 $m=1$ 时由 $(\gamma, \alpha_{1})>0$ 知 $\alpha_1 \neq 0$.
令 $m>1$. 由归纳假设有 $\alpha_{1}, \cdots, \alpha_{m-1}$ 线性无关。
对 $\alpha_{1}, \cdots, \alpha_{m-1}$ 执行 Gram-Schmidt正交化：令
\[
  \begin{aligned}
   \beta_{1} &= \alpha_{1} \\
  \beta_{2}&= \alpha_{2}-\frac{(\alpha_{2}, \beta_{1})}{(\beta_{1}, \beta_{1})} \beta_{1} \\
& \cdots \\
\beta_{m-1}&= \alpha_{m-1}-  \frac{(\alpha_{m-1}, \beta_{1})}{(\beta_{1}, \beta_{1})} \beta_{1}- \cdots -\frac{(\alpha_{m-1}, \beta_{m-2})}{(\beta_{m-2}, \beta_{m-2})} \beta_{m-2};
\end{aligned}
\]
再令 $\alpha'_i= \beta_i/\norm{\beta_i}$ ($1\leqslant i<m$).
容易归纳地证得 $(\alpha_{i}, \alpha'_{j}) \leqslant 0$, 
对 $1 \leqslant j<i <m$. 
进而可归纳地得知 $(\gamma, \alpha'_{i})>0$ ($1\leqslant i\leqslant m-1$),
$(\alpha_m, \alpha'_{i}) \leqslant 0$ ($1 \leqslant i < m)$.
为了反证，假设 $\alpha_{m}$ 可由 $\alpha_{1}, \cdots, \alpha_{m-1}$ 线性表出，
则 $\alpha_{m}$ 可由 $\alpha'_{1}, \cdots, \alpha'_{m-1}$ 线性表出；
实际上 
\[
  \alpha_{m}=\sum_{i=1}^{m-1} (\alpha_{m}, \alpha'_{i}) \alpha'_{i}.
\]
两边与 $\gamma$ 做内积得 
\[
  0<(\gamma, \alpha_{m})=\sum_{i=1}^{m-1}(\alpha_{m}, \alpha'_{i})(\gamma, \alpha'_{i}) \leqslant 0,
\]
矛盾了。因此 $\alpha_{m}$ 不可由 $\alpha_{1}, \cdots, \alpha_{m-1}$ 线性表出。
又 $\alpha_1,\cdots,\alpha_{m-1}$ 线性无关，
因此 $\alpha_1,\cdots,\alpha_{m-1},\alpha_m$ 线性无关。
\end{solution}

\iffalse
\begin{exercise}
设线性方程组
\[
  \begin{cases}
  x_1 + x_2 = 0 \\
x_3 + x_4 = 0
\end{cases}
\]
的解空间为 $W$. 求向量 $(2, 3, 4, 5)$ 在 $W$ 上的内射影及到 $W$ 的距离。
\end{exercise}

\begin{solution}
\fangfa 令 $\alpha_1=(1,1,0,0), \alpha_2=(0,0,1,1)$. 
那么 $W^{\perp} = \Span(\alpha_1, \alpha_2)$.
  注意到 $\alpha_1,\alpha_2$正交。这样 $\beta=(2, 3, 4, 5)$ 在 
  $W^{\perp}$ 的内射影为
  \[
    \gamma=\frac{\pair{\beta,\alpha_1}}{\pair{\alpha_1,\alpha_1}}\alpha_1+
    \frac{\pair{\beta,\alpha_2}}{\pair{\alpha_2,\alpha_2}}\alpha_2=\frac{1}{2}(5,5,9,9).
  \]
  因此 $\beta$ 到 $W$ 的距离为
  $\norm{\gamma}=\sqrt{53}$,
  $\beta$ 在 $W$ 上的内射影为
  \(
    \beta-\gamma=\frac{1}{2}(-1,1,-1,1).
  \)

  \fangfa 为了和课本上最小二乘法的讨论中的记号一致，我们视所有向量为列向量 (算完后你可以再转置回来)。
  令 $\alpha_1=(1,1,0,0)^{\rT}, \alpha_2=(0,0,1,1)^{\rT}$, $A=\begin{pmatrix}
    \alpha_1 & \alpha_2
  \end{pmatrix}$, $\beta=(2, 3, 4, 5)^{\rT}$.
  $\beta$ 在 $W^{\perp} = \Span(\alpha_1, \alpha_2)$ 上的内射影
  为 $AX$, 其中 $X$ 满足
  $A^{\rT}AX=A^{\rT}\beta$, 即 $2X=(5,9)^{\rT}$. 
  故 $X=\frac{1}{2}(5,9)^{\rT}$. 因此$\beta$ 在 $W^{\perp}$
  的内射影 为 
  \[
    \gamma=AX=\frac{5}{2}\alpha_1+\frac{9}{2}\alpha_2=\frac{1}{2}(5,5,9,9)^{\rT}.
  \]
  因此 $\beta$ 到 $W$ 的距离为
  $\norm{\gamma}=\sqrt{53}$,
  $\beta$ 在 $W$ 上的内射影为
  \(
    \beta-\gamma=\frac{1}{2}(-1,1,-1,1)^{\rT}.
  \)
\end{solution}
\fi

\begin{exercise}\label{21D}
设线性方程组
\[
  \begin{cases}
  x_1 + x_2+x_3 = 0 \\
x_3 + x_4 = 0
\end{cases}
\]
的解空间为 $W$. 求向量 $(3, 1, 4, 2)$ 在 $W$ 上的内射影及到 $W$ 的距离。
\end{exercise}

\begin{solution}
  \fangfa 令 $\alpha_1=(0,0,1,1), \alpha_2=(1,1,1,0)$ (这样的顺序看上去计算方便些). 
那么 $W^{\perp} = \Span(\alpha_1, \alpha_2)$.
正交化 $\alpha_1,\alpha_2$ (可以不用单位化) 得
\[
  \gamma_1=\alpha_1, \quad
  \gamma_2'=\alpha_2-\frac{\pair{\alpha_2,\gamma_1}}{\pair{\gamma_1,\gamma_1}}\gamma_1=\frac{1}{2}(2,2,1,-1).
\]
这样我们得 $W^{\perp} $的一组正交基 
\[
  \gamma_1=(0,0,1,1), \quad\gamma_2=2\gamma'_2=(2,2,1,-1).
\]
$\beta=(3, 1, 4, 2)$ 在 
  $W^{\perp}$ 的内射影为
  \[
    \gamma=\frac{\pair{\beta,\gamma_1}}{\pair{\gamma_1,\gamma_1}}\gamma_1+
    \frac{\pair{\beta,\gamma_2}}{\pair{\gamma_2,\gamma_2}}\gamma_2=(2,2,4,2).
  \]
  因此 $\beta$ 到 $W$ 的距离为
  $\norm{\gamma}=2\sqrt{7}$,
  $\beta$ 在 $W$ 上的内射影为
  \(
    \beta-\gamma=(1,-1,0,0).
  \)

  \fangfa 为了和课本上最小二乘法的讨论中的记号一致，我们视所有向量为列向量 (算完后你可以再转置回来)。
  令 
  \[
    \alpha_1=(1,1,1,0)^{\rT}, \quad\alpha_2=(0,0,1,1)^{\rT}, \quad
    A=\begin{pmatrix}
    \alpha_1 & \alpha_2
  \end{pmatrix}, \quad\beta=(3, 1, 4, 2)^{\rT}.
\]
  $\beta$ 在 $W^{\perp} = \Span(\alpha_1, \alpha_2)$ 上的内射影
  为 $AX$, 其中 $X$ 满足线性方程组
  $A^{\rT}AX=A^{\rT}\beta$, 即 
  \[
    \begin{pmatrix}
      3 & 1 \\ 1 & 2
    \end{pmatrix}X=\begin{pmatrix}
      8 \\ 6
    \end{pmatrix}.
  \]
  解之得 $X=(2,2)^{\rT}$. 因此$\beta$ 在 $W^{\perp}$
  的内射影 为 
  \[
    \gamma=AX=2\alpha_1+2\alpha_2=(2,2,4,2)^{\rT}.
  \]
  因此 $\beta$ 到 $W$ 的距离为
  $\norm{\gamma}=2\sqrt{7}$,
  $\beta$ 在 $W$ 上的内射影为
  \(
    \beta-\gamma=(1,-1,0,0)^{\rT}.
  \)
\end{solution}

\begin{exercise}\label{20F}\tiyuan{\parencite[2024]{huananshida}}
设 $A=\begin{pmatrix}1 & 1 & 1 \\ 1 & 2 & 4 \\ 1 & 3 & 9\end{pmatrix}$, 
求正交矩阵 $Q$ 和对角线元素均为正数的上三角矩阵 $R$ 使得 $A=Q R$. 
\end{exercise}

\begin{solution}
令 $\alpha_{1}=(1,1,1)^{\rT}, \alpha_{2}=(1,2,3)^{\rT}, \alpha_{3}=(1,4,9)^{\rT}$, 
对其执行 Gram-Schmidt正交化：先正交化得 (注意记录出现的系数这个中间数据，后面找矩阵 $R$ 要用)
\[
  \begin{aligned}
    \beta_{1}&=  \alpha_{1}=(1,1,1)^{\rT}, \\
   \beta_{2}&=  \alpha_{2}-\frac{\pair{ \alpha_{2},   \beta_{1}}}{\pair{ \beta_{1},   \beta_{1}}}  \beta_{1}
   = \alpha_2- 2\beta_1=(-1,0,1)^{\rT}, \\
   \beta_{3}&=  \alpha_{3}-\frac{\pair{ \alpha_{3},   \beta_{1}}}{\pair{ \beta_{1},   \beta_{1}}}  \beta_{1}-\frac{\pair{ \alpha_{3},   \beta_{2}}}{\pair{ \beta_{2},   \beta_{2}}}  \beta_{2}
   =\alpha_3-\frac{14}{3}\beta_1-4\beta_2= \frac{1}{3}(1,-2,1)^{\rT};
   \end{aligned}
 \]
再单位化得
\[
  \gamma_1=\frac{\beta_1}{\norm{\beta_1}}= \frac{1}{\sqrt{3}}(1,1,1)^{\rT}, \quad
  \gamma_2=\frac{\beta_2}{\norm{\beta_2}}= \frac{1}{\sqrt{2}}(-1,0,1)^{\rT}, \quad
  \gamma_3=\frac{\beta_3}{\norm{\beta_3}}= \frac{1}{\sqrt{6}}(1,-2,1)^{\rT}.
\]
令 
\[
  Q=\begin{pmatrix}
  \gamma_1 & \gamma_2 & \gamma_3
\end{pmatrix}=\begin{pmatrix}
  \frac{1}{\sqrt{3}} & -\frac{1}{\sqrt{2}} & \frac{1}{\sqrt{6}} \\
\frac{1}{\sqrt{3}} & 0  & -\frac{2}{\sqrt{6}} \\
\frac{1}{\sqrt{3}}  & \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{6}} 
\end{pmatrix},
\]
则 $Q$ 为正交矩阵。
而且，我们有线性关系：
\[
  \begin{aligned}
    \alpha_1&= \beta_1=\norm{\beta_1} \gamma_1=\sqrt{3}\gamma_1,\\
    \alpha_2&= \beta_2+ \frac{\pair{ \alpha_{2},   \beta_{1}}}{\pair{ \beta_{1},   \beta_{1}}}  \beta_{1} 
    =\norm{\beta_2} \gamma_2 + \frac{\pair{ \alpha_{2},   \beta_{1}}}
    {\pair{ \beta_{1},   \beta_{1}}} \norm{\beta_1} \gamma_1 
    = 2\sqrt{3}\gamma_1+ \sqrt{2}\gamma_2,\\
    \alpha_3&= \beta_3
    +\frac{\pair{ \alpha_{3},   \beta_{1}}}{\pair{ \beta_{1},   \beta_{1}}}  \beta_{1}
    +\frac{\pair{ \alpha_{3},   \beta_{2}}}{\pair{ \beta_{2},   \beta_{2}}}  \beta_{2} 
    =  \frac{14}{\sqrt{3}}\gamma_1+ 4\sqrt{2}\gamma_2 + \frac{\sqrt{6}}{3} \gamma_3  .
  \end{aligned}
\]
令
\[
  R =\begin{pmatrix}
    \sqrt{3} & 2\sqrt{3} & \frac{14}{\sqrt{3}} \\
    0 & \sqrt{2} & 4\sqrt{2} \\
    0& 0 & \frac{\sqrt{6}}{3}
  \end{pmatrix}.
\]
那么 $A=QR$. \emph{另外}，找到 $Q$ 后要找 $R$, 可直接令 $R= Q^{\rT} A$, 然后算出此乘积即可。
\end{solution}

\begin{exercise}\label{1FB}\tiyuan{\parencite[2024]{shoudushida}}
    设 $\alpha_{1}=(1,1,1,1), \alpha_{2}=(3,2,1,1), \alpha_{3}=(0,2,2,2)$ 为欧氏空间 $\bR^{4}$ 中的向量。
  \begin{enumerate}
    \item 令 $V=L(\alpha_{1}, \alpha_{2}, \alpha_{3})$ 由向量 $\alpha_{1}, \alpha_{2}, \alpha_{3}$ 生成的子空间，求 $V$ 的正交补 $V^{\perp}$;
  \item 令 $\beta=(1,0,2,0)$, 求 $\beta$ 在 $V$ 中的内射影以及 $\beta$ 在 $V^{\perp}$ 中的内射影。
\end{enumerate}
\end{exercise}

\begin{solution}
(1) 建立线性方程组 $A x=0$, 其中
\[
  A=\begin{pmatrix}\alpha_{1} \\ \alpha_{2} \\ \alpha_{3}\end{pmatrix}.
\]
解之得一基础解系 $\eta^{\rT}=(0,0,1,-1)^{\rT}$. 故 
\[
  V^{\perp}=\Span \eta =\{c(0,0,1,-1)\mid c\in \bR\}.
\]


(2) 注意到 $V^{\perp}$ 是一维的，计算 $\beta$ 在 $V^{\perp}$ 的投影很容易：
\[
  \beta_2=\frac{\pair{\beta,\eta}}{\pair{\eta, \eta}} \eta=
(0,0,1,-1).
\]
故而$\beta$ 在 $V$ 中的内射影为 
\[
  \beta_1= \beta-\beta_2 =(1,0,1,1).
\]
(注意到通过Gram-Schmidt 正交化找到$V$ 的标准正交基或者最小二乘法中的线性方程组
来算 $\beta$ 在 $V$ 中的内射影会很麻烦。)
\iffalse
\fangfa 在讲最小二乘法时我们讲过：
若线性方程组 $A A^{\rT} x= A \beta^{\rT}$ 的解为$x_0$, 
则 $\beta$ 在 $V$ 中的内射影为 $x_0^{\rT}A$.
解 $A A^{\rT} x= A \beta^{\rT}$ 得唯一解 $x_0=(4,1,-1)^{\rT}$.
因此 
$\beta$ 在 $V, V^{\perp}$ 中的内射影分别为 
\[
  \beta_1= x_0^{\rT}A=(1,0,1,1),\quad
  \beta_2=\beta-\beta_1=(0,0,1,-1).
  \tag*{\qedhere}
\]
\fi
\end{solution}



\begin{exercise}\label{20B}
设 $L\colon \bR^3\to\bR^3$ 是一个线性映射，
满足 $Lv\perp v$, 对于每个 $v\in\bR^3$. 
证明 $L$ 不可逆。
对于线性映射 $L:\bR^2\to\bR^2$, 是否有类似的断言成立？
\end{exercise}

\begin{solution}
令 $A$ 为 $L\colon \bR^3\to\bR^3$ 在自然基下的矩阵，
那么由题设知对 $\forall X \in \bR^{3}$ 有 $X^{\rT} A X=0$.
从而 $X^{\rT}(A+A^{\rT}) X=0$. 
由二次型的矩阵的唯一性知 $A+A^{\rT}=0$, 这样$A$ 反称。
既然 $A$ 为 $3$ 阶反称矩阵， $|A|=0$, $L$ 不可逆。


设 $L\colon  \bR^{2} \rightarrow \bR^{2}$ 在自然基下矩阵为 
$\begin{pmatrix}0 & 1 \\ -1 & 0\end{pmatrix}$, 
那么
\[
  L\left(  \begin{pmatrix}x \\ y\end{pmatrix} \right)=\begin{pmatrix} y \\-x\end{pmatrix}.
\]
故对 $\forall v \in \bR^{2}$ 有 $L v\perp v$. 
\end{solution}

\paragraph*{实数域上的规范方阵与规范变换} 

正交矩阵、实对称矩阵、实反称矩阵的谱理论可以统一在规范实方阵的框架下。

\begin{exercise}\label{0E1}
实方阵$N$称为\emph{规范的}，若它与其转置可交换，即$NN^{\rT}=N^{\rT}N$. 
例如，正交矩阵、实对称矩阵、实反称矩阵都是规范的。
    证明：若
    \[
      N=\begin{pmatrix}
        N_1 & N_2 \\
        & N_3
      \end{pmatrix}
    \]
    是规范实矩阵，则$N_2=0$. 
  一般地，准上三角形 (或准下三角形) 的规范矩阵都是准对角的。
\end{exercise}

\begin{solution}

    $\begin{pmatrix}
        N_1 & N_2 \\
        & N_3
      \end{pmatrix}$规范表明
      \[
          \begin{pmatrix}
        N_1 & N_2 \\
        & N_3
      \end{pmatrix} \begin{pmatrix}
        N_1^{\rT}  \\
       N_2^{\rT} & N_3^{\rT}
      \end{pmatrix} = \begin{pmatrix}
        N_1^{\rT} &  \\
        N_2^{\rT} & N_3^{\rT}
      \end{pmatrix} \begin{pmatrix}
        N_1 & N_2 \\
        & N_3
      \end{pmatrix}
      \]
      这样$N_1N_1^{\rT} + N_2N_2^{\rT}=N_1^{\rT}N_1$. 
      两边取迹，由$\tr AB=\tr BA$知$\tr N_2N_2^{\rT}=0$, 进而$N_2=0$.
\end{solution}


\begin{exercise} 
  欧氏空间上的线性变换$\symscr{A}$称为\emph{规范的}，
  若其在某组标准正交基下的矩阵是规范的。
  例如，正交（对称、斜称）的线性变换是规范的。
\iffalse  类似地，我们可以谈正交（对称、斜称）的线性变换。
  显然正交（对称、斜称）的线性变换是规范的。
  \begin{enumerate}
    \item 证明线性变换的这些概念不依赖与表示矩阵的选取，且我们可以如下用$\symscr{A}$刻画正交、对称、斜称：
      \begin{align*}
        \symscr{A}\text{~正交当且仅当~} & \pair{\symscr{A}v, \symscr{A} w}=\pair{v,w}, \forall v, w\in V; \\
      \symscr{A}\text{~对称当且仅当~} & \pair{\symscr{A}v,  w}=\pair{v, \symscr{A}w}, \forall v, w\in V;\\ 
      \symscr{A}\text{~斜称当且仅当~} & \pair{\symscr{A}v,  w}=-\pair{v,\symscr{A}w}, \forall v, w\in V.
      \end{align*}
  \end{enumerate}
\fi
  设$\symscr{A}$为规范的线性变换，$W$是$\symscr{A}$-不变子空间。证明$W^\perp$也是$\symscr{A}$-不变的。
\end{exercise}

\begin{solution}
\iffalse
不同的标准正交基下的表示矩阵正交相似，而规范（正交、对称、斜称）这些方阵的性质在正交相似下是不变的。
      也就是说，若$A, A'$都是$\symscr{A}$在某两组标准正交基下的表示矩阵，那么存在正交矩阵$\Omega$使得$\Omega^{\rT}A \Omega=A'$; 
      进而$A$规范（正交、对称、斜称）当且仅当$A'$规范（正交、对称、斜称）。比如$A$规范，即$AA^{\rT}=A^{\rT}A$, 当且仅当$(\Omega^{\rT} A \Omega ) (\Omega^{\rT} A^{\rT} \Omega) = (\Omega^{\rT} A^{\rT} \Omega) (\Omega^{\rT} A \Omega) $, 即$A'(A')^{\rT}=(A')^{\rT}A'$, 亦即$A'$规范。 
    \fi
      取$W$的标准正交基和$W^\perp$的标准正交基可以拼成$V$的标准正交基。
      $\symscr{A}$在此基下的矩阵形如$\begin{pmatrix}
        N_1 & N_2 \\ & N_3
      \end{pmatrix}$, 其中$N_1$是$\symscr{A}|_W$的表示矩阵。
      由练习~\ref{0E1}~知此矩阵规范表明$N_2=0$. 这样$W^\perp$也是$\symscr{A}$-不变子空间。
\end{solution}

\begin{exercise}\label{1D2}
  设 $V$ 为 $n$ 维欧氏空间， $\sA, \sB$ 为 $V$ 上的线性变换。
 如果对任意的
 $\alpha, \beta \in V$ 有 $(\sA(\alpha), \beta)=(\alpha, \sB(\beta))$,
 则称 $\sB$ 为 $\sA$ 的\emph{共轭}。
\begin{enumerate}
\item 证明：$\sB$ 为 $\sA$ 的共轭 当且仅当 $\sA, \sB$ 在同一标准正交基下的矩阵互为转置。
%\item 证明：$\ker \sA$ 的正交补为 $\im \sB$; 特别地， $V$ 是$\ker \sA$ 与 $\im\sB$ 的正交直和。
\item 设 $\sB$ 为 $\sA$ 的共轭。证明$\sA$ 是规范的当且仅当 $\sB \sA=\sA \sB$.
  %证明 $\sA, \sB$ 有相同的特征向量。
\end{enumerate}
\end{exercise}


\begin{solution}
  (1) 取定$V$ 的一组标准正交基 $\BB$. 设 $\sA, \sB$ 在该基下的矩阵分别为
  $A, B$. 设 $\alpha, \beta\in V$ 在基 $\BB$ 下的坐标分别为 $X, Y$.
  那么 
  \[
    \pair{\sA \alpha, \beta}=(AX)^{\rT} Y=X^{\rT} A^{\rT} Y,
    \quad 
    \pair{\alpha,\sB \beta}=X^{\rT} BY.
  \]
  这样，对任意的
  $\alpha, \beta \in V$ 有 $(\sA(\alpha), \beta)=(\alpha, \sB(\beta))$, 
  当且仅当 对任意的$X, Y\in \bR^{(n)}$ 有 $X^{\rT} A^{\rT} Y=X^{\rT} BY$, 
  当且仅当 $A^{\rT}=B$. 
\iffalse
  (2) 令 $(\ker\sA)^{\perp}$ 为 $\ker\sA$ 的正交补。
  对任意的 $\alpha \in \ker \sA, \sB\beta\in \im \sB$, 有
  \[
    \pair{\alpha, \sB\beta}=\pair{\sA \alpha, \beta}=\pair{0,\beta}=0,
  \]
  即 $\alpha \perp \sB \beta$. 
  这就证明了 $\ker \sA\perp \im \sB$, $\im\sB\subset (\ker\sA)^{\perp}$.
  又由(1) 知 $\sA, \sB$ 在一组标准正交基下的矩阵$A, B$ 互为转置，
  故 $\rank \sA=\rank \sB$. 进而
  \[
    \dim \dim \sB=\rank \sB=\rank \sA=n-\Null \sA=\dim (\ker\sA)^{\perp}.
  \]
  因此 $\im \sB= (\ker\sA)^{\perp}$.
\fi

(2) 取定$V$的一组标准正交基，令 $\sA$ 在该基下的矩阵分别为 $N$.
由(1) 知 $\sA$ 的共轭 $\sB$ 在该基下的矩阵为 $N^{\rT}$.
这样 $\sA, \sB$可交换当且仅当 $N, N^{\rT}$ 可交换，亦即 $\sA$ 规范。
\end{solution}

\begin{exercise}\label{1E0}
  令$N$ 为规范的实方阵 (转：$n$维实向量空间$V$上的规范变换)，
  $N^{\rT}$ 为 $N$ 的转置 (转：$N$ 的共轭)。证明
    \[
      \ker N=\ker N^{\rT},\quad \im N=\im N^{\rT},\quad
      \ker N = (\im N^{\rT})^{\perp}=(\im N)^{\perp}.
  \]
\end{exercise}

\begin{solution}
  若 $N$ 为$n$维实向量空间$V$上的规范变换，
  取定$V$ 的一组标准正交基，那么 $N$ 在该基下的矩阵是规范矩阵，
  $N^{\rT}$ 在该基下的矩阵是此矩阵的转置。
  这样可以从断言的矩阵形式推出线性变换的形式 (当然，也可直接证明断言的线性变换的形式)。
  我们知道 (练习 \ref{1E3})：对任意的实矩阵 $A$, 
  \[
    \im A=\im A^{\rT}A,\quad \ker A=\ker A^{\rT}A.
  \]
  这样，对规范矩阵 $N$, 我们有
  \begin{align*}
    \ker N &= \ker N^{{\rT}}N = \ker N N^{{\rT}}= \ker N^{{\rT}},\\
    \im N &= \im NN^{\rT} = \im N^{\rT}N = \im N^{\rT}.
  \end{align*}
  对 $\alpha\in \ker N, N^{\rT}\beta\in \im N^{\rT}$, 我们有 
  \[
    \alpha^{\rT} N^{\rT}\beta = (N\alpha)^{\rT}\beta=0.
  \]
  故 $\ker N\perp \im N^{\rT}$, $\im N^{\rT}\subset (\ker N)^{\perp}$. 又 
  \[
    \dim \im N^{\rT}=\rank N=n-\dim \ker N=\dim (\ker N)^{\perp},
  \]
  可知 $\im N^{\rT}=(\ker N)^{\perp}$.
\end{solution}

\begin{exercise}\label{1D4}
  设 $N$ 是规范的实方阵 (转：$n$维实向量空间$V$上的规范变换)，
  $N^{\rT}$ 为 $N$ 的转置 (转：$N$ 的共轭)。
  证明 $N, N^{\rT}$在实数域上有相同的特征向量。
\end{exercise}

\begin{solution}
  只用证明断言的矩阵的形式或线性变换的形式。

  \fangfa \emph{证明矩阵的形式}。我们知道 $N,N^{\rT}$ 有相同的特征值。
  令 $\lambda$ 为 $N, N^{\rT}$ 的一个特征值。
  那么 $\lambda E-N$ 仍然是规范矩阵，且其转置为 $\lambda E-N^{\rT}$.
  此时由练习 \ref{1E0} 知 
  \[
    \ker (\lambda E-N)=\ker (\lambda E-N^{\rT}).
  \]
  换句话说，$N$ 的属于特征值$\lambda$ 的特征向量是
  $N^{\rT}$ 的属于特征值$\lambda$ 的特征向量，反过来亦然。
  %\fangfa 利用规范实矩阵的正交相似标准形不难得到。

  \fangfa \emph{证明线性变换的形式}。
  令 $W$ 为 $N$ 的属于特征值 $\lambda$ 的特征子空间。
  由于 $N, N^{\rT}$可交换，$W$ 是 $N^{\rT}$ 的不变子空间。
  %这样我们可以把 $N, N^{\rT}$ 都限制到 $W$ 上。
  %此时 $N=\lambda \sE$. 这样
  对任意的
$\alpha, \beta \in W$ 有 
\[
  (\alpha, N^{\rT}(\beta))= (N(\alpha), \beta)= (\lambda \alpha, \beta)=(\alpha, \lambda\beta),
\]
亦即
\(
  \pair{\alpha, N^{\rT}\beta-\lambda \beta}=0.
\)
取 $\alpha=N^{\rT}\beta-\lambda \beta$ 可知对任意 $\beta\in W$ 有
$N^{\rT}\beta=\lambda \beta$. 故 $0\neq \beta\in W$ 是$N^{\rT}$ 的属于特征值
$\lambda$ 的特征向量。
这就证明了 $N$ 的特征向量都是 $N^{\rT}$ 的特征向量。
由内积的对称性 我们也有 $N$为 $N^{\rT}$ 的共轭，从而由刚才的讨论结果亦可知
$N^{\rT}$ 的特征向量都是 $N$ 的特征向量。
\end{solution}



\begin{exercise}\label{0AE}
  对实方阵$A$, 存在实正交矩阵$\Omega$使得$A$正交相似于准上三角阵，即
  \[
    \Omega^{-1}A\Omega = 
    \begin{pmatrix}
      A_1 & \cdots & * & * & \cdots & *\\
      & \ddots & \vdots  & \vdots & \ddots & \vdots\\
      & & A_s & * & \cdots & * \\
      & & & \lambda_{2s+1} & \cdots &  * \\
      & & & & \ddots & \vdots \\
      & & & & & \lambda_n
    \end{pmatrix},
  \]
  其中$0\leqslant 2s\leqslant n$,
  $A_1, \cdots, A_s$为形如 $A_k=\begin{pmatrix}
    a_k & b_k\\ -b_k & a_k
  \end{pmatrix}$的$2$阶实方阵 (无实特征值)，
  $\lambda_{2s+1}, \cdots, \lambda_n$为实数。
\end{exercise}

\begin{exercise}[规范实方阵正交相似标准型]
  \label{0E0}
  设$N$为实规范方阵，存在实正交矩阵$\Omega$使得
  \[
    \Omega^{-1} N \Omega  = \begin{pmatrix}
      a_1 & b_ 1\\
      -b_1 & a_1 \\
      & & & \ddots \\
       & & & & a_s & b_s \\
       & & & & -b_s & a_s \\
       & & & & & & \lambda_{2s+1} \\
       & & & & & & & \ddots \\
       & & & & & & & & \lambda_n
     \end{pmatrix},
  \]
  其中$0\leqslant 2s\leqslant n$, $A_k=\begin{pmatrix}
    a_k & b_k\\ -b_k & a_k
  \end{pmatrix}$的特征值为虚根$\lambda_k=a_k+b_k\, i$和$\bar{\lambda}_k=a_k-b_k\,i$,
  有相应的特征向量$\alpha_k=(1,i)^{\rT}$和$\bar{\alpha}_k=(1,-i)^{\rT}$;
  $\lambda_{2s+1}, \cdots, \lambda_n$是实数。
  反之，有上述形式的矩阵是规范方阵。
\end{exercise}

\begin{solution}

  由练习~\ref{0AE}~知存在正交矩阵$\Omega$使得$\Omega^{-1}N\Omega$
  等于形如练习 \ref{0AE} 中的准上三角形的矩阵。
  由于$\Omega^{-1}N\Omega$和$N$一样是规范矩阵，
  练习~\ref{0E1}~告诉我们实际上$\Omega^{-1}N\Omega$是准对角的，形如
  \[
    \diag(A_1, \cdots, A_s, \lambda_{2s+1}, \cdots, \lambda_{n}).
    \tag*{\qedhere}
  \]
\end{solution}





\begin{exercise}
  设$A\in \bR^{n\times n}$. 证明存在正交矩阵$\Omega$使得$\Omega^{-1}A\Omega$是上三角阵
  当且仅当$A$的特征值都是实数。
\end{exercise}


\begin{solution}

  $A$与$\Omega^{-1}A\Omega$相似，所以若$\Omega^{-1}A\Omega$是上三角阵，
  则其特征值都是实数，从而$A$的也是。
  反过来，假设$A$的特征值是实数。
我们对$n$归纳来证明想要的正交矩阵的存在性。
$A$的特征值为实数，故有实特征向量$v$, 比如说属于特征值$\lambda_1$. 
规范化$v$后可设$v$是单位向量。
将$v$延拓为$\bR^{(n)}$的标准正交基，
$A$在该基下矩阵形如$\begin{pmatrix}
  \lambda_1 & \alpha \\ & A_1
\end{pmatrix}$.
所以存在正交矩阵$\Omega_1$使得
\[
  \Omega_1^{\rT}A\Omega_1
=\begin{pmatrix}
  \lambda_1 & \alpha \\ & A_1
\end{pmatrix}.
\]
$A_1$的特征值都是$A$的特征值，故而都是实数。
由归纳假设，存在正交矩阵$\Omega_2$使得
\[
  \Omega_2^{\rT} A_1 \Omega_2=\begin{pmatrix}
    \lambda_2 & * & \cdots & * \\
    & \lambda_3 & \cdots & * \\
    & & \ddots & \vdots \\
    & & & \lambda_n
  \end{pmatrix}.
\]
令$\Omega=\Omega_1 \diag(1, \Omega_2)$. 
那么$\Omega^{-1}A\Omega$为上三角矩阵。
\end{solution}


%\paragraph*{其他问题} 下面是涉及到正交相似的一些零散问题。

\begin{exercise}\label{20C}
  设$A, B\in \bR^{n\times n}$相似又相合。请问它们是否正交相似？
\end{exercise}


\begin{solution}
  否。比如令$A=\begin{pmatrix}
    1 & \lambda \\& 0
  \end{pmatrix}$, $B=\begin{pmatrix}
    1 & \mu\\ & 0 
  \end{pmatrix}$. 显然$A, B$相似。
  假设$A, B$相合，则存在可逆矩阵$\begin{pmatrix}
    a & b\\c & d
  \end{pmatrix}$使得
  \[
    \begin{pmatrix}
      a & c \\ b & d
    \end{pmatrix} A \begin{pmatrix}
      a &  b \\ c & d
    \end{pmatrix}=B,
  \]
  这相当于
  \[
    \begin{pmatrix}
      a^2 + \lambda ab & ac+\lambda ad\\
      ca+\lambda cb & c^2 + \lambda cd
    \end{pmatrix}=\begin{pmatrix}
      1 & \mu \\ & 0
    \end{pmatrix}.
  \]
  不妨取$c=0$. 进一步我们可以考虑取$\mu=2\lambda, a=1, d=2, b=0$. 
  这样我们得到
  \[
    \begin{pmatrix}
      1 & \\ & 2
    \end{pmatrix}\begin{pmatrix}
      1 & \lambda\\ & 0
    \end{pmatrix}\begin{pmatrix}
      1 & \\ & 2
    \end{pmatrix}=\begin{pmatrix}
      1 & 2\lambda \\ & 0
    \end{pmatrix}.
  \]
  所以这样的$A, B$也是相合的。
  但$A, B$不是正交相似的。假设有正交矩阵$U=\begin{pmatrix}
    a & b\\ c& d
  \end{pmatrix}$使得$U^{\rT}AU=B$. 这相当于
  \[
    \begin{pmatrix}
      a(a+\lambda c) & a(b+\lambda d) \\
      b(a+\lambda c) & b(b+\lambda d)
    \end{pmatrix}=\begin{pmatrix}
      1 & 2\lambda \\ & 0
    \end{pmatrix}.
  \]
  令$\lambda\neq 0$, 我们来说明此方程无解。$a(a+\lambda c)=1, b(a+\lambda c)=0$表明$b=0$; 进而由$a(b+\lambda d)=2\lambda$知$ad=2$.
  由$U$正交知$ab+cd=0$, 这样只有$c=0$.  从而$a^2=1$, 因为$a(a+\lambda c)=1$.
  故$a=\pm 1$, $d=\pm 2$. 但这样得到的$U$不是正交矩阵。矛盾了。得证。
\end{solution}



\begin{exercise}
  设$P\in \bR^{n\times n}$满足$P^{\rT}=P^2$. 求$P$可能的特征值。
\end{exercise}

\begin{solution}
  我们有$P^4=(P^2)^2=(P^{\rT})^2=(P^2)^{\rT}=P$. 
  故$P$的最小多项式整除
  \[
    \lambda^4-\lambda=\lambda(\lambda-1)(\lambda^2+\lambda+1).
  \]
  我们知道最小多项式与特征多项式的根集相同，所以可能的特征值为$0,1,\frac{-1\pm \sqrt{3}\,i}{2}$.
  显然$P$是规范矩阵，所以存在正交矩阵$\Omega$使得
  $Q=\Omega^{\rT} P \Omega$是准对角矩阵，对角线上为$0$, 或$1$, 或二阶方阵
  \[
    B=\begin{pmatrix}
    -\frac{1}{2} & -\frac{\sqrt{3}}{2} \\
    \frac{\sqrt{3}}{2} & -\frac{1}{2}
  \end{pmatrix}.
\]
  $0, 1, B$都满足平方等于转置，所以$0, 1, \frac{-1\pm \sqrt{3}\,i}{2}$都可以作为特征值。
\end{solution}

\begin{exercise}[奇异值分解，SVD]\label{21A}
对任意 $m \times n$ 实矩阵 $A$, 存在实正交方阵 $\Omega_1$ 和 $\Omega_2$ 使
\[
  \Omega_1 A \Omega_2 = \begin{pmatrix}
\lambda_1 & & \\
    & \ddots & \\
  & & \lambda_r\\
&&& & 0_{(m - r) \times (n - r)}
\end{pmatrix},
\]
其中 $\lambda_1 \geqslant \cdots \geqslant \lambda_r > 0$ 为正实数， 
且 $\lambda_1^2, \cdots, \lambda_r^2$ 为 $A^{\rT} A$ 的所有非零特征值。
\end{exercise}

\begin{proof}
\fangfa 令 \( \rank A = r, \) 则 \( \rank {A}^{\rT }A =\rank A = r. \) 考虑实对称
矩阵 \( {A}^{ \rT }A \). 由于 \( {A}^{ \rT }A \) 半正定，其特征值非负，其中正特征值
有 \( r \) 个，故可设 \( {A}^{\rT}A \) 的特征值为 
\[ {\sigma }_{1}^{2},\ldots ,{\sigma }_{r}^{2},0,\ldots ,0, \quad 
  \text{其中~} 
{\sigma }_{1} \geqslant  {\sigma }_{2} \geqslant \cdots  \geqslant  {\sigma }_{r} > 0. \]
令相应的规范正交的特征向量为 \( \alpha_{1},\cdots ,\alpha_{n}\);
令 
\[
{P}_{1} = 
\begin{pmatrix}
\alpha_{1} & \cdots & \alpha_{r}
\end{pmatrix}, \quad 
{P}_{2} = 
\begin{pmatrix}
\alpha_{r + 1} & \cdots & \alpha_{n}
\end{pmatrix},\quad
P=\begin{pmatrix}
  P_1 & P_2
\end{pmatrix}.
\]
那么 \( P \) 为正交矩阵。
令 \( {D}_{1} = \operatorname{diag}( {{\sigma }_{1},\cdots ,{\sigma }_{r}}) \),
则 \( {A}^{ \rT }A{P}_{1} = {P}_{1}{D}_{1}^{2} \). 
$P$是正交矩阵表明 \( {P}_{1}^{\rT }{P}_{1} = E \), 从而有
\[ {( {D}_{1}^{-1}) }^{\rT} {P}_{1}^{\rT} {A}^{\rT} A{P}_{1}{D}_{1}^{-1} = E. \]
令 \( {Q}_{1} = AP_1D_{1}^{-1} \), 则 \( {Q}_{1}^{\rT}{Q}_{1} = E \),
即 \( {Q}_{1} \) 的列规范正交。 将 \( {Q}_{1} \) 扩充
为正交矩阵得 \( Q = \begin{pmatrix}  Q_1 & {Q}_{2}\end{pmatrix} \).
那么 \( {Q}_{2}^{\rT }{Q}_{1} = 0 \), 从而 \( {Q}_{2}^{\rT}A{P}_{1} = 0 \).
  此时
\[
{Q}^{\rT }{AP} = \begin{pmatrix}  {Q}_{1}^{\rT}\\ {{Q}_{2}^{\rT }}\end{pmatrix} 
A \begin{pmatrix}  {P}_{1} & {P}_{2} \end{pmatrix} = 
\begin{pmatrix} {Q}_{1}^{\rT }A{P}_{1} & {Q}_{1}^{\rT }A{P}_{2} \\  {Q}_{2}^{\rT }A{P}_{1} & {Q}_{2}^{\rT }A{P}_{2} \end{pmatrix}  
= \begin{pmatrix} {D}_{1} \\  & 0 \end{pmatrix}. 
\]

\fangfa 可设$m\geqslant n$, 否则可从$A^{\rT}$的SVD分解得到$A$的SVD分解。
  半正定的实对称矩阵$A^{\rT}A$可分解为$A^{\rT}A=V^{\rT}CV$, 其中$V$为正交矩阵，
 $C=\diag(\sigma_1^2,\cdots,\sigma_n^2)$为对角矩阵， 满足
 $\sigma_1\geqslant \cdots \geqslant \sigma_n\geqslant 0$.
 令$C_1=\diag(\sigma_1,\cdots,\sigma_n)$. 
注意到
\[
  A^{\rT}A=V^{\rT}CV=B^{\rT}B, \quad \text{其中~}
 B=\begin{pmatrix}
  V^{\rT}C_1V\\ 0_{(m-n)\times n}
\end{pmatrix}.
\]
由练习~\ref{070}~知
存在正交矩阵$W\in \bR^{m\times m}$使得 
\[
  A=WB=W\begin{pmatrix}
  V^{\rT}C_1V \\ 0_{(m-n)\times n}
\end{pmatrix} = W\begin{pmatrix}
  V^{\rT} \\ & E
\end{pmatrix} \begin{pmatrix}
  C_1 \\ 0 
\end{pmatrix} V.
\]
令
\[
U= W\begin{pmatrix}
  V^{\rT} \\ & E
\end{pmatrix},\quad 
D=\begin{pmatrix}
  C_1 \\ 0 
\end{pmatrix}, 
\]
则$A=UDV$就是想要的分解。


\fangfa 首先，我们断言： 存在 $\Omega_1$ 和 $\Omega_2$ 使
\[
\Omega_1 A \Omega_2 = \begin{pmatrix} A_1 & 0 \end{pmatrix},
\]
其中 $A_1$ 为可逆实方阵。 事实上， 若 $A$ 的秩 $r < n$, 
则 $Ax = 0$ 有非零解 $x \in \bR^{(n)}$, 可设 $\norm{x} = 1$. 
将$x$ 扩充为 $n$ 阶正交方阵得 $\Omega_1 = \begin{pmatrix}B &  x\end{pmatrix}$, 
则 $A\Omega_1 = \begin{pmatrix}AB & Ax\end{pmatrix} = \begin{pmatrix}A_1 & 0\end{pmatrix}$. 
若仍有 $r < n - 1$, 对 $A_1$ 同样讨论知有 $\Omega_2$ 使得
$A_1 \Omega_2 = \begin{pmatrix}A_2 & 0\end{pmatrix}$. 
令 $\Omega_3 = \diag(\Omega_2, 1)$, 则 
$A\Omega_1 \Omega_3 = \begin{pmatrix}A_2 &  0 & 0\end{pmatrix}$. 
如此续行， 可知有正交矩阵 $\Omega_4$ 使得
$A\Omega_4 = \begin{pmatrix}A' & 0\end{pmatrix}$, 
其中 $A'$ 的列数等于$A$ 的秩 $r$. 
再对方阵 $\begin{pmatrix}A' & 0\end{pmatrix}$ 的行作类似讨论， 即得断言。
 
现在设 $A^{\rT} A = S^2 = (\Omega_3^{\rT} \Lambda \Omega_3)^2$, 
其中 $S_1$ 正定实对称 (练习 \ref{1DE}), 
$\Lambda = \diag(\lambda_1, \cdots, \lambda_r)$. 
于是 
\[
  E = S^{-1} A^{\rT} A S^{-1} = (A_1 S_1^{-1})^{\rT} (A_1 S_1^{-1}),
\]
故 $\Omega_4 = A_1 S_1^{-1}$ 为正交阵，且有
\[
  A_1 = \Omega_4 S_1 = \Omega_4 \Omega_3^{\rT} \Lambda \Omega_3.
\]
于是
\[
\begin{aligned}
  \Omega_1 A \Omega_2 &=  \begin{pmatrix}
  A_1 \\ & 0 
\end{pmatrix} = 
\begin{pmatrix} \Omega_4 \Omega_3^{\rT} \Lambda \Omega_3 & 0 \\ 0 & E \end{pmatrix} \begin{pmatrix} \Omega_3 & \\ & E \end{pmatrix} \\
&= \begin{pmatrix}
  \Omega_4\Omega_3^{\rT} \\ & E
\end{pmatrix} \begin{pmatrix}
  \Lambda \\ & 0
\end{pmatrix}\begin{pmatrix}
  \Omega_3 \\ & E
\end{pmatrix}.
\end{aligned}
\]
这就是我们想要的。
\end{proof}
 

\begin{exercise}[极分解]\label{219}
任一实方阵 $A$ 可分解为 $A = S\Omega = \Omega_1 S_1$, 
其中 $S$ 和 $S_1$ 为半正定的实对称方阵，
$\Omega$ 与 $\Omega_1$ 为正交方阵， 而且 $S$ 和 $S_1$ 均是唯一的。
\end{exercise}

这说明， 欧几里得空间的任一变换可分解为一个正交变换(旋转或反射)
与一个半正定对称变换(在若干正交方向上放大倍数)的复合。 

\begin{proof}
  由练习 \ref{21A} 知存在正交方阵$P$ 与 $\Omega$使得 
  \[
    A=PD\Omega, \quad \text{其中~} D=\diag(\lambda_1,\cdots,\lambda_r,0,\cdots,0).
  \]
  这样
\[
\begin{aligned}
A &=  P D P^{\rT} P\Omega = S(P\Omega),\\
A &=  P\Omega\Omega^{\rT} D\Omega = (P\Omega)S_1,
\end{aligned}
\]
且$P\Omega$ 是正交矩阵，
$S=P D P^{\rT}$ 与 $S_1=\Omega^{\rT} D\Omega$ 为半正定的实对称方阵。
又若 $A = S\Omega = \tilde{S}\tilde{\Omega}$, 
则 $AA^{\rT} = S^2 = \tilde{S}^2$, 由 练习 \ref{1DE} 中唯一性知 $S = \tilde{S}$. 
类似地若 $A = \Omega_1 S_1 = \tilde{\Omega}_1 \tilde{S}_1$, 
则 $A^{\rT} A = S_1^2 = \tilde{S}_1^2$, 也知 $S_1 = \tilde{S}_1$.
\end{proof}
 
 

\paragraph*{正交矩阵与正交变换}
%实方阵$A$称为\emph{正交的}，若$A^{\rT}A=E$. 我们知道欧氏空间的标准正交基之间的基变换矩阵恰好是正交矩阵。

\begin{exercise}
  上（或下）三角的正交矩阵必为对角矩阵，且对角线上都是$\pm 1$. 
\end{exercise}

\begin{solution}
设$\Omega=(a_{ij})$是上三角的正交矩阵。

    \fangfa 我们有$i>j$时$a_{ij}=0$.
  显然$a_{ii}\in \bR$是$\Omega$的特征值，而正交矩阵的特征值长度为$1$, 故$a_{ii}=\pm1$.
  $\Omega^{\rT}\Omega=E$表明$\sum_{k=1}^{i}a_{ki}^2=1$, 对任意的指标$i$.
  这样$a_{ik}=0$, 对任意的$1\leqslant k<i$. 从而$\Omega$是对角矩阵。

  \fangfa  正交矩阵是规范矩阵。这样由练习~\ref{0E1}~知$\Omega$是对角矩阵。
  $\Omega$的特征值都是实数，而正交矩阵特征值长度为$1$, 这样特征值为$\pm 1$. 
  所以$\Omega$对角线上都是$\pm 1$.

  \fangfa  $\Omega$的特征值都是实数，由练习~\ref{0B2}~知$\Omega$是对称阵。
  这样$\Omega$作为上三角阵必是对角矩阵。
  而且从$\Omega^2=\Omega^{\rT}\Omega= E$可看出$\Omega$的特征值只能是$\pm 1$.
  所以对角线上是$\pm 1$. 
\end{solution}


\begin{exercise}\label{22D}
  设$A, B$是正交矩阵，且$\det A=1, \det B=-1$. 证明$A+B$奇异。
\end{exercise}

\begin{solution}

  注意到$A+B=A(E+A^{\rT}B)$, 要证$A+B$奇异，我们只用证$E+A^{\rT}B$奇异，这反过来只用证$-1$是$A^{\rT}B$的特征值。
  $A^{\rT}B$仍是正交矩阵，且行列式为$-1$.
  正交阵的特征值长度为$1$, 且虚特征值以共轭对的形式成对出现，行列式是$-1$时必有特征值$-1$. 得证。
\end{solution}


\begin{exercise}
  设$A$是正交矩阵。证明$A$是第一类正交矩阵当且仅当存在正交矩阵$B$使得$A=B^2$.
\end{exercise}

\begin{solution}

  ($\Leftarrow$) 是显然的，我们证明 ($\Rightarrow$). 
  $A$的特征值长度为$1$, 所以实特征值是$\pm 1$. 
  若$\det A=1$, 则$-1$出现的次数是偶数次。
  这样存在正交矩阵$\Omega$使得 (练习 \ref{0E0})
  \[
    \Omega^{\rT} A \Omega=\diag(A_1,\cdots,A_l,-E_{2k},E_{n-2l-2k}).
  \]
  其中 $l,k,n-2l-2k\geqslant 0$, 且
  \[
    A_i=\begin{pmatrix}
    \cos \theta_i & \sin \theta_i \\
      -\sin \theta_i & \cos \theta_i \\
  \end{pmatrix}.\]
  令
  \[
    B=\Omega \diag(B_1,\cdots,B_l,C_1,\cdots,C_k,E_{2n-2l-2k}) \Omega^{\rT},
  \]
  其中
  \[
    B_i=\begin{pmatrix}
      \cos \frac{\theta_i}{2} & \sin \frac{\theta_i}{2}\\
      -\sin \frac{\theta_i}{2} & \cos \frac{\theta_i}{2} 
    \end{pmatrix}, \quad 
    C_i=\begin{pmatrix}
      0 & 1\\ -1 & 0
    \end{pmatrix}.
  \]
  那么$B^2=A$.
\end{solution}


\begin{exercise}
  设$A$是$n$阶正交矩阵且$-1$非$A$的特征值。令$B=(A-E)(A+E)^{-1}$.
  证明$B$是斜称矩阵，且$A^{\rT}=(B-E)(B+E)^{-1}$.
\end{exercise}

\begin{solution}

  由
  \[
    B= (A-E)(A+E)^{-1}=(A+E-2E)(A+E)^{-1}=E-2(A+E)^{-1}
  \]
  可知
  \begin{align*}
    B^{\rT}&= E-2(A^{\rT}+E)^{-1} 
    = E-2 A A^{-1} (A^{\rT}+E)^{-1} \\
    &= E-2A(A+E)^{-1} = E-2(A+E-E)(A+E)^{-1}\\
    &= -E +2(A+E)^{-1} = -B.
  \end{align*}
    这样$B$斜称。又有
    \begin{align*}
      (B-E)(B+E)^{-1} &= 
      2 (E+A)^{-1} \left( (A-E)(A+E)^{-1} + E \right)^{-1} \\
      &= 2 \left( ((A-E)(A+E)^{-1} + E)(E+A) \right)^{-1} \\
      &= 2(2A)^{-1}=A^{\rT}. 
      \tag*{\qedhere}
    \end{align*}
\end{solution}



\begin{exercise}\label{210}
设 $\sA$ 是 $n$ 维欧氏空间 $\bR^{n}$ 的正交变换，
证明 $\im(\sE-\sA)=\ker(\sE-\sA)^{\perp}$;
特别地，$\bR^{n}=\ker (\sE-\sA) \oplus \im (\sE-\sA)$.
\end{exercise}
\begin{solution}
  \fangfa 对任意的 $y \in \ker(\sE-\sA)$, $x-\sA x \in \im(\sE-\sA)$, 有
\[
\begin{aligned}
\pair{y, x-\sA x}&= \pair{y, x}-\pair{y, \sA x}=\pair{y, x}-\pair{\sA y, \sA x}\\
&= \pair{y, x}-\pair{y, x}=0.
\end{aligned}
\]
于是  $\im(\sE-\sA) \subseteq \ker(\sE-\sA)^{\perp}.$
又
\[
\begin{aligned}
  \dim \ker(\sE-\sA)^{\perp} &=n- \dim \ker(\sE-\sA)=\rank(\sE-\sA)\\
  &= \dim\im(\sE-\sA)=\dim \im(\sE-\sA),
\end{aligned}
\]
故而 $\ker(\sE-\sA)=\im(\sE-\sA)^{\perp}$. 证毕。

\fangfa $\sE-\sA$ 是正规变换，故断言由 \ref{1E0} 立得。
\end{solution}







\begin{exercise}
设 $\sA$ 为欧氏空间 $V$ 的变换。 
证明
\begin{enumerate}
\item 若 $\sA$ 保持向量内积不变，则 $\sA$ 一定是线性变换， 从而是正交变换。 
  这里 $\sA$ 保持内积不变的意义为对任意 $\alpha, \beta \in V$ 均有
  \[
\pair{ \sA(\alpha), \sA(\beta) } = \pair{ \alpha, \beta }.
\]
\item $\sA$ 为正交变换当且仅当 $\sA$ 保持距离不变， 且 $\sA(0)=0$.
\end{enumerate}
\end{exercise}
值得注意的是，保持向量长度的变换不一定是正交变换， 例如若 $\bR^{(n)}$ 的内积定义为 $\pair{ x, y } = x^{\rT} y$, 则变换
\[
\sA: (x_1, \cdots, x_n)^{\rT} \mapsto (|x_1|, \cdots, |x_n|)^{\rT}
\]
保持向量长度， 但不是线性变换。

\begin{solution}
  (1) 先证明对任意 $\alpha, \beta$ 均有 $\sA(\alpha + \beta) = \sA(\alpha) + \sA(\beta)$. 由于
\[
  \begin{aligned}
  &\pair{ \sA(\alpha + \beta) - \sA\alpha - \sA\beta, \sA(\alpha + \beta) - \sA\alpha - \sA\beta }\\
&= \pair{ \sA(\alpha + \beta), \sA(\alpha + \beta) } - 2\pair{ \sA(\alpha + \beta), \sA\alpha } - 2\pair{ \sA(\alpha + \beta), \sA\beta } \\
& \hspace{1.2em} + \pair{ \sA\alpha, \sA\alpha } + \pair{ \sA\beta, \sA\beta } + 2\pair{ \sA\alpha, \sA\beta } \\
&= \pair{ \alpha + \beta, \alpha + \beta } - 2\pair{ \alpha + \beta, \alpha } - 2\pair{ \alpha + \beta, \beta } \\
&\hspace{1.2em}+ \pair{ \alpha, \alpha } + \pair{ \beta, \beta } + 2\pair{ \alpha, \beta } = 0,
\end{aligned}
\]
故
\[
  \sA(\alpha + \beta) - \sA(\alpha) - \sA(\beta) = 0,
\]
即
\[
  \sA(\alpha + \beta) = \sA(\alpha) + \sA(\beta) \quad (\forall \alpha, \beta \in V).
\]
又对 $c \in \bR$, 有
\[
  \begin{aligned}
  & \pair{ \sA(c\alpha) - c\sA(\alpha), \sA(c\alpha) - c\sA(\alpha) }\\
&= \pair{ \sA(c\alpha), \sA(c\alpha) } - c\pair{ \sA(c\alpha), \sA\alpha } - c\pair{ \sA\alpha, \sA(c\alpha) } + c^2 \pair{ \sA\alpha, \sA\alpha } \\
&= \pair{ c\alpha, c\alpha } - c\pair{ c\alpha, \alpha } - c\pair{ \alpha, c\alpha } + c^2 \pair{ \alpha, \alpha } \\
&= c^2 \pair{ \alpha, \alpha } - c^2 \pair{ \alpha, \alpha } - c^2 \pair{ \alpha, \alpha } + c^2 \pair{ \alpha, \alpha } = 0,
\end{aligned}
\]
故知
\[
\sA(c\alpha) = c\sA(\alpha) \quad (\forall c \in \bR, \alpha \in V).
\]
故 $\sA$ 为线性变换且保持内积不变， 从而为正交变换。

  (2)  
($\Rightarrow$) 显然，我们证 ($\Leftarrow$). 假设 $\sA(0) = 0$ 且对 $\forall \alpha, \beta \in V$ 有
\[
(\sA(\alpha) - \sA(\beta), \sA(\alpha) - \sA(\beta)) = (\alpha - \beta, \alpha - \beta). \tag{$*$}
\]
令 $\beta = 0$ 知对 $\forall \alpha \in V$ 有
\[
(\sA(\alpha), \sA(\alpha)) = (\alpha, \alpha). \tag{$**$}
\]
结合 ($*$), ($**$) 有对 $\forall \alpha, \beta \in V$ 有
\[
  (\sA(\alpha), \sA(\beta)) = (\alpha, \beta),
\]
即$\sA$ 保持内积。这样由 (1) 知 $\sA$ 为正交变换。
\end{solution}


\begin{exercise}
  设$\sA$是$\bR^{3}$上的线性变换，其在标准正交基下的表示矩阵对称正交。
  证明$\sA$等于$\pm \sE$, 或者是沿某个轴旋转$180$度，或者是相对于$\bR^3$中某个$2$维子空间的反射。
\end{exercise}


\begin{solution}

  既然$\sA$在标准正交基下的矩阵$A$对称正交，
  $A$是对角矩阵，且对角线是$\pm1$. 这样$A$可能为
  \[
    \begin{aligned}
    \text{(1)} &
    \begin{pmatrix}
  1 \\ & 1 \\ & & 1
\end{pmatrix}, & 
\text{(2)} &
\begin{pmatrix}
  1 \\ & 1 \\ & & -1
\end{pmatrix},\\
\text{(3)} &
\begin{pmatrix}
  1 \\ & -1 \\ & & -1
\end{pmatrix}, & 
\text{(4)} &
\begin{pmatrix}
  -1 \\ & -1 \\ & & -1
\end{pmatrix}.
\end{aligned}
\]
  情形(1)时$\sA =\sE$, 情形(4)时$\sA=-\sE$, 
  情形(2)时$\sA$为相对于$\bR^3$中某个$2$维子空间的反射，
  情形(3)时$\sA$为沿某个轴旋转180度。
\end{solution}




\begin{exercise}\label{212}
  设$V$是欧氏空间，$\alpha, \beta$是两个长度相等的元素。
  证明存在$V$上的第一类正交变换把$\alpha$映到$\beta$.
\end{exercise}

\begin{solution}

  我们只用考虑带上标准内积的欧氏空间$\bR^{(n)}$. 若长度都是$0$, 情形平凡。
  否则，通过规范化$\alpha, \beta$我们可设$\alpha, \beta$是单位向量。
  分别把$\alpha$, $\beta$扩充为第一类正交矩阵得到$\Omega_1, \Omega_2$，
  令$\Omega=\Omega_2\Omega_1^{\rT}$, 则$\Omega$是第一类正交矩阵，且
  $\Omega \Omega_1=\Omega_2$表明$\Omega \alpha=\beta$.
\end{solution}



\begin{exercise}\label{070} 
  设$\alpha_1, \cdots, \alpha_m$和$\beta_1, \cdots, \beta_m$是欧氏空间$V$中两个向量组。
  证明存在$V$上的正交变换$\symscr{A}$使得对任意的$i$有$\symscr{A}(\alpha_i)=\beta_i$ 
  当且仅当对任意的$i$有$\pair{\alpha_i, \alpha_j}=\pair{\beta_i, \beta_j}$.

  这个事实可以用矩阵的语言等价地描述为：若$A, B\in \bR^{m\times n}$, 那么
  存在正交矩阵$U\in \bR^{m\times m}$使得$UA=B$当且仅当$A^{\rT}A=B^{\rT}B$.
\end{exercise}


\begin{solution}
($\Rightarrow$) 是显然的，因为正交变换保内积。
  我们证明($\Leftarrow$). 
\iffalse
  由练习~\ref{059}~知$\alpha_{i_1}, \cdots, \alpha_{i_l}$线性无关当且仅当
  矩阵$(\pair{\alpha_{i_p}, \alpha_{i_q}})_{1\leqslant p, q\leqslant l}$可逆，
  亦即矩阵$(\pair{\beta_{i_p}, \beta_{i_q}})_{1\leqslant p, q\leqslant l}$可逆， 
  当且仅当$\beta_{i_1}, \cdots, \beta_{i_l}$线性无关。
  设$\alpha_{i_1}, \cdots, \alpha_{i_k}$是$\alpha_1, \cdots, \alpha_m$的一个极大线性无关组，
  那么$\beta_{i_1}, \cdots, \beta_{i_k}$是$\beta_1, \cdots, \beta_m$的一个极大线性无关组。
  对$j\in \{1, \cdots, m\}\setminus\{i_1, \cdots, i_k\}$, 
  设
  \[
    \alpha_j = \sum_{l=1}^k a_{lj} \alpha_{i_l}=\begin{pmatrix}
      \alpha_{i_1} & \cdots & \alpha_{i_k}
    \end{pmatrix}\begin{pmatrix}
      a_{1j} \\ \vdots \\ a_{kj}
    \end{pmatrix}.
  \]
  这样
  \[
    \begin{pmatrix}
      \pair{\alpha_j, \alpha_{i_1}}\\
      \vdots \\
      \pair{\alpha_j, \alpha_{i_k}}
      \end{pmatrix} = \begin{pmatrix}
        \pair{\alpha_{i_1}, \alpha_{i_1}} & \cdots & \pair{\alpha_{i_k}, \alpha_{i_1}} \\
        \vdots  & & \vdots \\
        \pair{\alpha_{i_1}, \alpha_{i_k}} & \cdots & \pair{\alpha_{i_k}, \alpha_{i_k}}
      \end{pmatrix} \begin{pmatrix}
        a_{1j} \\ \vdots \\ a_{kj}
      \end{pmatrix},
  \]
  进而
  \[
    \begin{pmatrix}
        a_{1j} \\ \vdots \\ a_{kj}
      \end{pmatrix}=\begin{pmatrix}
        \pair{\alpha_{i_1}, \alpha_{i_1}} & \cdots & \pair{\alpha_{i_k}, \alpha_{i_1}} \\
        \vdots  & & \vdots \\
        \pair{\alpha_{i_1}, \alpha_{i_k}} & \cdots & \pair{\alpha_{i_k}, \alpha_{i_k}}
      \end{pmatrix}^{-1}    \begin{pmatrix}
      \pair{\alpha_j, \alpha_{i_1}}\\
      \vdots \\
      \pair{\alpha_j, \alpha_{i_k}}
      \end{pmatrix}.
  \]
  类似地，设
  $\beta_j= \sum_{l=1}^k b_{lj} \beta_{i_l}$, 我们也可解得
  \[
    \begin{pmatrix}
      b_{1j} \\ \vdots \\ b_{kj}
    \end{pmatrix} = \begin{pmatrix}
        \pair{\beta_{i_1}, \beta_{i_1}} & \cdots & \pair{\beta_{i_k}, \beta_{i_1}} \\
        \vdots  & & \vdots \\
        \pair{\beta_{i_1}, \beta_{i_k}} & \cdots & \pair{\beta_{i_k}, \beta_{i_k}}
      \end{pmatrix}^{-1}    \begin{pmatrix}
      \pair{\beta_j, \beta_{i_1}}\\
      \vdots \\
      \pair{\beta_j, \beta_{i_k}}
      \end{pmatrix}.
  \]
  由于对任意的指标$p,q$有$\pair{\alpha_p, \alpha_q}=\pair{\beta_p, \beta_q}$, 
  我们知
  \[
    (a_{1j}, \cdots, a_{kj})=(b_{1j}, \cdots, b_{kj}).
  \]
  这样我们只要找到正交变换将$\alpha_{i_l}$映到$\beta_{i_l}$即可，之后由线性性可知所有的$\alpha_i$映到了$\beta_i$.
  这就将问题归结为$\alpha_1, \cdots, \alpha_m$线性无关且$\beta_1, \cdots, \beta_m$线性无关的情形。
  此时，令$V_1=\Span(\alpha_1, \cdots, \alpha_m), V_2=\Span(\beta_1, \cdots, \beta_m)$,
  取$V_1^\perp$的标准正交基$(\alpha_{m+1}, \cdots,  \alpha_{n})$, 
  取$V_2^{\perp}$的标准正交基$(\beta_{m+1}, \cdots, \beta_n)$.
  那么，对任意的$1\leqslant i, j\leqslant n$有$\pair{\alpha_i, \alpha_j}=\pair{\beta_i, \beta_j}$.
  由于$(\alpha_1, \cdots, \alpha_n)$构成$V$的基，
  存在唯一的线性变换$\sA$使得$\sA(\alpha_i)=\beta_i$, 对任意的$1\leqslant i\leqslant n$.
  $\sA$保内积表明$\sA$是正交变换。
\fi
  先设$\alpha_1,\cdots,\alpha_m$线性无关。令
  \[
    V_1=\Span(\alpha_1, \cdots, \alpha_m),\quad V_2=\Span(\beta_1, \cdots, \beta_m).
  \]
  取$V_1^\perp$的标准正交基$(\alpha_{m+1}, \cdots,  \alpha_{n})$, 
  取$V_2^{\perp}$的$n-m$个标准正交的向量$(\beta_{m+1}, \cdots, \beta_n)$
  (注意到$\dim V_2\leqslant m$, 故$\dim V_2^{\perp} \geqslant n-m$, 
  故这样的一组向量可取到; 实际上我们马上可知$\beta_1,\cdots,\beta_m$线性无关，故$\dim V_2=m$).
  显然，对任意的$1\leqslant i, j\leqslant n$, 我们都有
  \[\tag{$*$}
    \pair{\alpha_i, \alpha_j}=\pair{\beta_i, \beta_j}.
  \]
由于$\alpha_1, \cdots, \alpha_n$构成$V$的一组基，
  存在唯一的线性变换$\sA$使得$\sA(\alpha_i)=\beta_i$, 对任意的$1\leqslant i\leqslant n$.
  ($*$)表明$\sA$保内积，因此$\sA$是正交变换。由$\sA$是同构和
$\alpha_1,\cdots,\alpha_m$线性无关知这些向量的像$\beta_1,\cdots,\beta_m$线性无关。

  一般地，适当地排序$\alpha_1,\cdots,\alpha_m$ (相应地排序$\beta_1,\cdots,\beta_m$),
  可设$\alpha_1,\cdots,\alpha_r$为$\alpha_1,\cdots,\alpha_m$的一个极大线性无关组。
  由上一段的论证可知存在正交变换$\sA$使得$\sA(\alpha_i)=\beta_i$, 
  对$1\leqslant i\leqslant r$. 我们来说明这样的等式对$i=r+1,\cdots,m$也成立。
  对$i>r$, 设
  \[
    \alpha_i=\sum_{i=1}^r c_{ji} \alpha_j,\quad
    \beta_i=\sum_{i=1}^r d_{ji} \beta_j. 
  \]
  我们断言$c_{ji}=d_{ji}$ (对任意的$j=1,\cdots,r$), 此时由$\sA$的线性性就知道
  $\sA(\alpha_i)=\beta_i$, 对$i>r$. 
  为了证明断言，令
\[
Z=\begin{pmatrix}\pair{\alpha_1, \alpha_i}\\
\vdots \\ 
\pair{\alpha_r, \alpha_i}\\
\end{pmatrix},\quad 
X=    \begin{pmatrix}
c_{1i} \\ \vdots \\ c_{ri}
\end{pmatrix}, \quad
G= \begin{pmatrix}
\pair{\alpha_1, \alpha_1} & \cdots & \pair{\alpha_1, \alpha_r}  \\
\vdots & & \vdots \\
\pair{\alpha_r, \alpha_1}  & \cdots & \pair{\alpha_r, \alpha_r} 
\end{pmatrix}.
\]
  将等式$\alpha_i=\sum_{i=1}^r c_{ji} \alpha_j$两边与$\alpha_j$ ($j=1,\cdots,r$) 做内积可得
  \[
      Z = \begin{pmatrix}
      \sum_{i=1}^r c_{ji} \pair{\alpha_1, \alpha_j} \\
      \vdots \\
      \sum_{i=1}^r c_{ji} \pair{ \alpha_r, \alpha_j}
    \end{pmatrix} = G X.
    \]
既然$\alpha_{i_1}, \cdots, \alpha_{i_l}$线性无关，
应用练习~\ref{059}~可知 $G$是可逆矩阵。
    故 $X=G^{-1}Z$. 
类似地，令
\[
W=\begin{pmatrix}\pair{\beta_1, \beta_i}\\
\vdots \\ 
\pair{\beta_r, \beta_i}\\
\end{pmatrix},\quad 
Y=    \begin{pmatrix}
d_{1i} \\ \vdots \\ d_{ri}
\end{pmatrix}, \quad
H= \begin{pmatrix}
\pair{\beta_1, \beta_1} & \cdots & \pair{\beta_1, \beta_r}  \\
\vdots & & \vdots \\
\pair{\beta_r, \beta_1}  & \cdots & \pair{\beta_r, \beta_r} 
\end{pmatrix}.
\]
进而可得$Y=H^{-1} W$. 由关系式 $\pair{\alpha_i, \alpha_j}=\pair{\beta_i, \beta_j}$
($j=1,\cdots,m$) 可知$Z=W, G=H$, 因此$X=Y$. 得证断言。证毕。
\end{solution}

\iffalse
\begin{exercise}
  设$\alpha_1, \cdots, \alpha_m$和$\beta_1, \cdots, \beta_m$是欧氏空间$V$中两个向量组。
  证明存在$V$上的正交变换$\symscr{A}$使得对任意的$i$有$\symscr{A}(\alpha_i)=\beta_i$ 
  当且仅当对任意的$i$有$\pair{\alpha_i, \alpha_j}=\pair{\beta_i, \beta_j}$.
\end{exercise}

\begin{solution}

($\Rightarrow$)是显然的，因为正交变换保内积。我们证明($\Leftarrow$). 
  由练习~\ref{059}~知$\alpha_{i_1}, \cdots, \alpha_{i_l}$线性无关当且仅当
  矩阵$(\pair{\alpha_{i_p}, \alpha_{i_q}})_{1\leqslant p, q\leqslant l}$可逆，
  亦即矩阵$(\pair{\beta_{i_p}, \beta_{i_q}})_{1\leqslant p, q\leqslant l}$可逆， 
  当且仅当$\beta_{i_1}, \cdots, \beta_{i_l}$线性无关。
  设$\alpha_{i_1}, \cdots, \alpha_{i_k}$是$\alpha_1, \cdots, \alpha_m$的一个极大线性无关组，
  那么$\beta_{i_1}, \cdots, \beta_{i_k}$是$\beta_1, \cdots, \beta_m$的一个极大线性无关组。
  对$j\in \{1, \cdots, m\}\setminus\{i_1, \cdots, i_k\}$, 
  设
  \[
    \alpha_j = \sum_{l=1}^k a_{lj} \alpha_{i_l}=\begin{pmatrix}
      \alpha_{i_1} & \cdots & \alpha_{i_k}
    \end{pmatrix}\begin{pmatrix}
      a_{1j} \\ \vdots \\ a_{kj}
    \end{pmatrix}.
  \]
  这样
  \[
    \begin{pmatrix}
      \pair{\alpha_j, \alpha_{i_1}}\\
      \vdots \\
      \pair{\alpha_j, \alpha_{i_k}}
      \end{pmatrix} = \begin{pmatrix}
        \pair{\alpha_{i_1}, \alpha_{i_1}} & \cdots & \pair{\alpha_{i_k}, \alpha_{i_1}} \\
        \vdots  & & \vdots \\
        \pair{\alpha_{i_1}, \alpha_{i_k}} & \cdots & \pair{\alpha_{i_k}, \alpha_{i_k}}
      \end{pmatrix} \begin{pmatrix}
        a_{1j} \\ \vdots \\ a_{kj}
      \end{pmatrix},
  \]
  进而
  \[
    \begin{pmatrix}
        a_{1j} \\ \vdots \\ a_{kj}
      \end{pmatrix}=\begin{pmatrix}
        \pair{\alpha_{i_1}, \alpha_{i_1}} & \cdots & \pair{\alpha_{i_k}, \alpha_{i_1}} \\
        \vdots  & & \vdots \\
        \pair{\alpha_{i_1}, \alpha_{i_k}} & \cdots & \pair{\alpha_{i_k}, \alpha_{i_k}}
      \end{pmatrix}^{-1}    \begin{pmatrix}
      \pair{\alpha_j, \alpha_{i_1}}\\
      \vdots \\
      \pair{\alpha_j, \alpha_{i_k}}
      \end{pmatrix}.
  \]
  类似地，设
  $\beta_j= \sum_{l=1}^k b_{lj} \beta_{i_l}$, 我们也可解得
  \[
    \begin{pmatrix}
      b_{1j} \\ \vdots \\ b_{kj}
    \end{pmatrix} = \begin{pmatrix}
        \pair{\beta_{i_1}, \beta_{i_1}} & \cdots & \pair{\beta_{i_k}, \beta_{i_1}} \\
        \vdots  & & \vdots \\
        \pair{\beta_{i_1}, \beta_{i_k}} & \cdots & \pair{\beta_{i_k}, \beta_{i_k}}
      \end{pmatrix}^{-1}    \begin{pmatrix}
      \pair{\beta_j, \beta_{i_1}}\\
      \vdots \\
      \pair{\beta_j, \beta_{i_k}}
      \end{pmatrix}.
  \]
  由于对任意的指标$p,q$有$\pair{\alpha_p, \alpha_q}=\pair{\beta_p, \beta_q}$, 
  我们知
  \[
    (a_{1j}, \cdots, a_{kj})=(b_{1j}, \cdots, b_{kj}).
  \]
  这样我们只要找到正交变换将$\alpha_{i_l}$映到$\beta_{i_l}$即可，之后由线性性可知所有的$\alpha_i$映到了$\beta_i$.
  这就将问题归结为$\alpha_1, \cdots, \alpha_m$线性无关且$\beta_1, \cdots, \beta_m$线性无关的情形。
  此时，令$V_1=\Span(\alpha_1, \cdots, \alpha_m), V_2=\Span(\beta_1, \cdots, \beta_m)$,
  取$V_1^\perp$的标准正交基$(\alpha_{m+1}, \cdots,  \alpha_{n})$, 
  取$V_2^{\perp}$的标准正交基$(\beta_{m+1}, \cdots, \beta_n)$.
  那么，对任意的$1\leqslant i, j\leqslant n$有$\pair{\alpha_i, \alpha_j}=\pair{\beta_i, \beta_j}$.
  由于$(\alpha_1, \cdots, \alpha_n)$构成$V$的基，
  存在唯一的线性变换$\sA$使得$\sA(\alpha_i)=\beta_i$, 对任意的$1\leqslant i\leqslant n$.
  $\sA$保内积表明$\sA$是正交变换。
 \end{solution}
\fi





\paragraph*{实对称矩阵与对称变换}
%方阵$A$称为\emph{对称的}，若$A^{\rT}=A$. 


\begin{exercise}\label{21F}
设 $A$ 为一个 $4$ 阶实对称矩阵，特征值为 $0,0,0,4$, 
属于特征值 $0$ 的线性无关的一组特征向量为
\[
  \alpha_1=(-1,1,0,0)^{\rT},\quad \alpha_2=(-1,0,1,0)^{\rT},\quad \alpha_3=(-1,0,0,1)^{\rT}.
\]
求矩阵 $A$.
\end{exercise}


\begin{solution}
 既然 $A$ 是实对称矩阵， 属于特征值 $4$ 的特征向量
 与属于特征值 $1$ 的特征向量正交，
  因此是下面的线性方程组的解：
  \[
    \begin{pmatrix}
      -1 & 1 & 0 & 0\\
      -1 & 0 & 1 & 0\\
      -1 & 0 & 0 & 1
    \end{pmatrix}X=0.
  \]
  解之得一基础解系 $\alpha_4=(1,1,1,1)$. 属于特征值 $4$ 的特征子空间包含于
  该线性方程组的解空间，又二者都是$1$维的，故而两个空间相等。因此 $\alpha_4$ 就是
属于特征值 $4$ 的一个特征向量。令 
\[
  P=\begin{pmatrix}
    \alpha_1 & \alpha_2 & \alpha_3 & \alpha_4
  \end{pmatrix},\quad 
  D=\diag(0,0,0,4),
\]
那么我们有
  $A  P=PD$, 从而
\[
  A=PDP^{-1}=\begin{pmatrix}
1 & 1 & 1 & 1 \\
1 & 1 & 1 & 1 \\
1 & 1 & 1 & 1 \\
1 & 1 & 1 & 1
  \end{pmatrix}.
  \tag*{\qedhere}
\]
\end{solution}



\begin{exercise}\label{1D5}
  设$A\in \bR^{n\times n}$. 证明$A$对称当且仅当$AA^{\rT}=A^2$.
\end{exercise}

\begin{solution}
  我们证明$AA^{\rT}=A^2$蕴含了$A$对称。

  \fangfa  令$A=(a_{ij})$. 对$AA^{\rT}=A^2$两边取迹得
  \[
    \sum_{i=1}^n\sum_{j=1}^n a_{ij}a_{ji} = \sum_{i=1}^n \sum_{j=1}^n a_{ij}^2.
  \]
  两边乘$2$得
  \[
    \sum_{i=1}^n \sum_{j=1}^n 2a_{ij}a_{ji}=\sum_{i=1}^n \sum_{j=1}^n 2a_{ij}^2 = 
    \sum_{i=1}^n \sum_{j=1}^n (a_{ij}^2+a_{ji}^2),
  \]
  亦即
  \[
    \sum_{i=1}^n \sum_{j=1}^n (a_{ij}-a_{ji})^2=0.
  \]
  因此$a_{ij}=a_{ji}$, 对任意的$i,j$. 

  \fangfa  
  设$\lambda\in \bC$是$A$的特征值，$v$是相应的一个左特征向量，即$v A= v\lambda$. 
  这样$v AA^{\rT} v^{\rH} = v A^2 v^{\rH}$. 
  从而 $|\lambda|^2 v v^{\rH} = \lambda^2 v v^{\rH}$.
  由于$vv^{\rH}>0$, 我们有$|\lambda|^2=\lambda^2$, 
  这样$\lambda$是实数。
  此时存在正交矩阵$\Omega$使得$\Omega^{\rT} A \Omega$
  是上三角阵$A'=(a_{ij})$, 其中$i>j$时$a_{ij}=0$.
  $A' (A')^{\rT} =(A')^2$表明对任意的$i$有
  $\sum_{j\geqslant i} a_{ij}^2 = a_{ii}^2$. 
  这样$a_{ij}=0$, 对$j>i$. 从而$A'$是对角矩阵。这样$A$是对称矩阵。
\end{solution}


\begin{exercise}\label{0B2}
  设$A\in \bR^{n\times n}$. 证明$A$对称当且仅当$A$规范且$A$的所有的特征值都是实数。
\end{exercise}

\begin{solution}

  ($\Rightarrow$) 对称矩阵显然规范。设$\lambda\in \bC$是$A$的特征值，
  $v\in \bC^{(n)}$是属于$\lambda$的特征向量。
  那么$A v =\lambda  v$; 取共轭转置亦有$v^{\rH} A=\bar{\lambda} v^{\rH}$.  
  从而$v^{\rH} Av=\lambda  v^{\rH} v$; 同时$v^{\rH} A v=\bar{\lambda} v^{\rH} v$.
  由于$v^{\rH} v$是正实数，
  $\lambda v^{\rH} v=\bar{\lambda} v^{\rH} v$表明$\lambda=\bar{\lambda}$, 即$\lambda$是实数。

  ($\Leftarrow$) 由于$A$规范且其特征值都是实数，
  存在正交矩阵$\Omega$使得$\Omega^{\rT} A\Omega$是上三角阵。
  $\Omega^{\rT} A\Omega$仍是规范矩阵且又上三角，
  必有$\Omega^{\rT} A \Omega$是对角矩阵 (练习 \ref{0E1})。
  这样易知$A$是对称的。
\end{solution}

\begin{exercise}\label{1DB}
  设 $A\in \bR^{n\times n}$是对称的。证明：存在正交矩阵$\Omega$使得
  $\Omega^{\rT} A \Omega=\diag(\lambda_1, \cdots, \lambda_n)$, 
    其中$\lambda_1, \cdots, \lambda_n$为$A$的全部特征值。
  特别地，我们有特征值分解：
    \[
      A=\sum_{i=1}^n \lambda_i v_i v_i^{\rT},
    \]
  其中$v_1, \cdots, v_n$是属于特征值$\lambda_1, \cdots, \lambda_n$的两两正交的单位向量。
\end{exercise}

\begin{solution}
  由 \ref{0B2} 知 $A$ 是所有特征值都是实数的规范矩阵。这样由练习 \ref{0E0} 知
存在正交矩阵$\Omega=\begin{pmatrix}
    v_1 & \cdots  & v_n
  \end{pmatrix}$使得
  $\Omega^{\rT} A\Omega=\diag (\lambda_1, \cdots, \lambda_n)$.
  $A=\Omega \diag(\lambda_1, \cdots, \lambda_n) \Omega^{\rT}$表明
  $A=\sum_{i=1}^n \lambda_i v_i v_i^{\rT}$.
\end{solution}


\begin{exercise}\label{0AD}
设 $A\in \bR^{n\times n}$. 证明 $A$ 对称当且仅当 $A$ 有 $n$ 个两两正交的实特征向量。
\end{exercise}

\begin{solution}
  ($\Leftarrow$) 设 $A$ 有 $n$ 个两两正交的特征向量 $v_1, \cdots, v_n$，
    我们可设对所有 $i$ 有 $\norm{v_i}=1$. 再设 $v_i$ 对应的特征值为 $\lambda_i$. 
    记
    \( 
        \Omega = 
        \begin{pmatrix}
            v_1 & \cdots & v_n
        \end{pmatrix}.
      \)
    由于 $v_1, \cdots, v_n$ 规范正交，$\Omega$ 是正交矩阵，从而 $\Omega^{-1} = \Omega^{\rT}$.
    由
    \(
      A \Omega = \Omega \diag (\lambda_1, \cdots, \lambda_n)
    \)
    我们知 
    \[ A = \Omega \diag (\lambda_1, \cdots, \lambda_n) \Omega^{-1} = \Omega \diag (\lambda_1, \cdots, \lambda_n) \Omega^{\rT}, \]
    这样 $A$ 是对称方阵。

    ($\Rightarrow$) 由练习 \ref{1DB} 易知。
\end{solution}



\iffalse
\begin{exercise}
  设$\sA, \sB$是欧氏空间$V$上的对称变换，满足$\ker \sA\subset \ker \sB$.
证明：存在对称变换$\sC$使得$\sB=\sC\sA$.
\end{exercise}
题目好像不对。取定标准正交基，相当于证明：若 实对称矩阵$A, B$ 满足 $\ker A\subset \ker B$,
则存在实对称矩阵 $C$ 使得 $B=CA$. 这不对。比如取 $B=\begin{pmatrix}
  1 \\ & 3
\end{pmatrix}$, $A=\begin{pmatrix}
  1 & 1\\ 1& 2 
\end{pmatrix}$.
\fi

\begin{exercise}\label{200}
  考虑实对称三对角矩阵
  \[
    T=\begin{pmatrix}
      a_1 & b_1 \\
      b_1 & a_2 & \ddots \\
      & \ddots &\ddots & b_{n-1} \\
      &&b_{n-1}& a_n 
    \end{pmatrix}.
  \]
  令所有的$b_j$都非零。
  证明：(1) $\rank T\geqslant n-1$. (2) $T$有 $n$ 个不同的特征值。
\end{exercise}

\begin{solution}
  (1) 由于所有的$b_j\neq 0$, $T$有个可逆的$n-1$阶子矩阵$T\begin{pmatrix}
        1 & \cdots &n-1\\
        2& \cdots & n
      \end{pmatrix}$，故$\rank T\geqslant n-1$.

      (2) 对任意的特征值$\lambda$, $\lambda E-T$有个$n-1$阶可逆子矩阵，从而此特征值的几何重数至多为$1$从而等于$1$.
      由于对称实矩阵的特征值的几何重数等于代数重数，$\lambda$的代数重数也是$1$.
      这样实对称矩阵 $T$的 $n$ 个实特征值互异。
\end{solution}




\begin{exercise}
  设$A$为$n$阶实方阵，满足对任意的$x\in \bR^{(n)}$有$\pair{Ax, x}\geqslant 0$. 
  证明$Ax=0$当且仅当$A^{\rT}x=0$.
\end{exercise}

\begin{solution}

  由$\pair{Ax, x}\geqslant 0$知$\pair{(A+A^{\rT})x, x}\geqslant 0$. 
  这样实对称矩阵 $A^{\rT}+A$半正定，从而其特征值都非负。
  设$A^{\rT}+A$的特征值分解为$A^{\rT}+A=\sum_{i=1}^n \lambda_i v_i v_i^{\rT}$.
  若$Ax=0$, 则$x^{\rT}Ax=0$, 即
  $\sum_{i=1}^n \lambda_i x^{\rT} v_i v_i^{\rT} x=0$. 这样 $\pair{v_i, x}=0$, 对任意的$i$.
  因而$(A^{\rT}+A)x=\sum_{i=1}^n \lambda_i v_i v_i^{\rT} x=0$. 进一步，$A^{\rT}x=0$. 
  用$A^{\rT}$替换$A$的角色可得到反过来的蕴含。
\end{solution}


\begin{exercise}
  设$A$为$n$阶实对称矩阵，且$\rank (A)=n-1$.
  证明存在整数$1\leqslant k\leqslant n$使得$A$的$(k,k)$位元素的代数余子式$A_{kk}\neq 0$.
\end{exercise}

\begin{solution}

  \fangfa 设$A$的所有特征值为$\lambda_1, \cdots, \lambda_n$.
  若所有$n-1$阶主子式都是$0$, 那么
  \[
    \sum_{i_1<\ldots<i_{n-1}} \lambda_{i_1} \cdots \lambda_{i_{n-1}} =0.
  \]
  $0$为$A$的特征值，不妨设$\lambda_n=0$. 这样$\lambda_1 \cdots \lambda_{n-1}=0$.
  从而某个$\lambda_i=0$, $1\leqslant i<n$. 这样特征值$0$的代数重数大于$1$.
  由于$A$对称，$0$的几何重数等于代数重数，故而也大于$1$,
  这与$\rank A<n-1$ 矛盾了。

  \fangfa  $A$有$n-1$行线性无关，设$A$去掉第$k$行后的$n-1$行线性无关。
  这样第$k$行可由其他行线性组合得到。由对称性，第$k$列可由其他列线性表出。
  做若干次把$A$的其他列的倍加到第$k$列这样的初等变换可把$A$的第$k$列变成零列，记所得矩阵为$A'$.
  列变换保持行的线性相关性，
  从而$A'$的去掉第$k$行后的$n-1$行也线性无关。
  而$A'$的第$k$列是零列，不影响行的线性相关性，从而$A'$去掉第$k$行第$k$列后的行线性无关，
  故$A'$的$(k,k)$位元素的余子式$A'_{kk}$非零。这样$A_{kk}=A'_{kk}\neq 0$.
\end{solution}



\begin{exercise}
  已知二次曲面方程
  \[
    x^2+ay^2+z^2+2bxy+2xz+2yz=4
  \]
  可以经过正交变换
  \[
    \begin{pmatrix}
      x\\y\\z
    \end{pmatrix}=P\begin{pmatrix}
      x' \\ y' \\z'
    \end{pmatrix}
  \]
  化为椭圆柱面方程${y'}^2+4{z'}^2=4$. 
  求$a, b$的值和正交矩阵$P$.
\end{exercise}

\begin{solution}
  二次型$x^2+ay^2+z^2+2bxy+2xz+2yz$的矩阵为
  $A=\begin{pmatrix}
    1 & b & 1\\ 
    b& a & 1\\
    1 & 1 & 1 \\
  \end{pmatrix}$.
  由题设知$A$的特征值为$0,1,4$. 
  迹是相似不变量，故$2+a=4$, $a=3$. 
  $0$是$A$的特征值表明$0=\det A=-(b-1)^2$, 从而$b=1$.
  容易计算得数与特征值$0, 1, 4$的单位特征向量
  \[
    \alpha_1=\frac{1}{\sqrt{2}}(1,0,-1)^{\rT},\quad
    \alpha_2=\frac{1}{\sqrt{6}}(1,2,1)^{\rT},\quad
    \alpha_3=\frac{1}{\sqrt{3}}(1,-1,1).
  \]
  那么
  \[
    P=\begin{pmatrix}
      \alpha_1 & \alpha_2 & \alpha_3
    \end{pmatrix}=\begin{pmatrix}
      \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{6}} & \frac{1}{\sqrt{3}}\\
      0 & \frac{2}{\sqrt{6}} & -\frac{1}{\sqrt{3}}\\
      \frac{1}{\sqrt{2}} &  \frac{1}{\sqrt{6}} & \frac{1}{\sqrt{3}}
    \end{pmatrix}
\]
为所要求的正交矩阵。
\end{solution}


\begin{exercise}
  设有实二次型$f(x)=x^{\rT} Ax$, 其中$A$是$3$阶实对称矩阵且满足如下方程：
  \[
    A^3-6A^2+11A-6E=0.
  \]
  试计算
  \[
    \max_{A} \max_{\norm{x}=1} f(x),
  \]
  其中$\norm{x}=\sqrt{x_1^2+x_2^2+x_3^2}$, 第一个最大值是对所有满足所给方程的实对称矩阵$A$求的。
\end{exercise}

\begin{solution}
  $A$实对称时我们有
  \[
    \max_{\norm{x}=1} x^{\rT} Ax=\max_{\norm{x}=1} \sum_{i=1}^3 \lambda_i x_i^2 = \max_{i} \lambda_i,
  \]
  其中$\lambda_1, \lambda_2, \lambda_3$为$A$的全部特征值。
  $A$的特征值都是
  \[
    \lambda^3-6\lambda^2+11\lambda-6=(\lambda-1)(\lambda-2)(\lambda-3)
  \]
  的根，所以$\lambda_i\in \{1,2,3\}$.
  这样$\max_{A}\max_{\norm{x}=1} x^{\rT} Ax=3$.
\end{solution}


\begin{exercise}\label{1D0}
  对 $n$ 阶实对称矩阵$A$, 其特征值从大到小记为 $\lambda_{1}(A) \geqslant \lambda_{2}(A) \geqslant \cdots \geqslant$ $\lambda_{n}(A)$.
\begin{enumerate}
  \item 证明：对$0\neq X \in \bR^{(n)}$有
    \[
      \lambda_{n}(A) \leqslant \frac{X^{\rT} A X}{X^{\rT} X} \leqslant \lambda_{1}(A),
    \]
  \item 设 $A, B$ 是 $n$ 阶实对称矩阵，证明： 
    \[
    \begin{aligned}
      \lambda_{n}(A+B) & \geqslant \lambda_{n}(A)+\lambda_{n}(B),\\
        \lambda_{1}(A+B)&  \leqslant \lambda_{1}(A)+\lambda_{1}(B).
      \end{aligned}
  \]
   \end{enumerate}
 \end{exercise}
\begin{solution}
  (1) 存在正交矩阵 $U$ 使得 $U^{\rT} A U=\diag(\lambda_{1}, \cdots, \lambda_{n})$. 
令 $U X=Y=(y_1,\cdots,y_n)^{\rT}$, 那么
\[\tag{$*$}
  \lambda_{n}(A)=\frac{\sum_{i=1}^{n} \lambda_{n}(A) y_{i}^{2}}{\sum_{i=1}^{n} y_{i}^{2}} \leqslant \frac{X^{\rT} A X}{X^{\rT}X}=\frac{\sum_{i=1}^{n} \lambda_{i}(A) y_{i}^{2}}{\sum_{i=1}^{n} y_{i}^{2}} \leqslant \frac{\sum_{i=1}^{n} \lambda_{1}(A) y_{i}^{2}}{\sum_{i=1}^{n}  y_{i}^{2}}=\lambda_{1}(A).
\]
这就证明了 (1).

(2) 取 $X$ 使得 $U X=Y=(0, \ldots, 0,1)^{\rT}$ 可知 ($*$) 右边的等号可取得。
这样 
\[
  \lambda_{1}(A)=\max \{X^{\rT} A X \mid \norm{X}=1\}.
\]
类似可知
\[
  \lambda_{n}(A)=\min \{X^{\rT} A X \mid \norm{X}=1\}.
\]
取 $X \in \bR^{(m)}$ 使得 $\norm{X}=1$ 且 $X^{\rT}(A+B) X=\lambda_{1}(A+B)$. 
那么
\[
\lambda_{1}(A+B)=X^{\rT}(A+B) X = X^{\rT} A X+X^{\rT} B X \leqslant \lambda_{1}(A)+\lambda_{1}(B).
\]
类似可知  $\lambda_{n}(A+B)  \geqslant \lambda_{n}(A)+\lambda_{n}(B)$.
\end{solution}



\begin{exercise}\label{0C9}
    设$A\in \symbf{R}^{n\times n}$是实对称方阵，
    再设$A$的正特征值的个数、负特征值的个数分别为$p, q$. 
    令
    \[
    \begin{aligned}
      S_+&= \{\text{子空间~}V\subset \symbf{R}^{(n)}\mid X^{\rT}AX>0,\text{~对任意的~}0\neq X\in V\},\\
      S_-&= \{\text{子空间~}V\subset \symbf{R}^{(n)}\mid X^{\rT}AX<0,\text{~对任意的~}0\neq X\in V\}.
  \end{aligned}
  \]
    那么 
    \[
      \max\{\dim V\mid V\in S_+\}=p, \quad  \max\{\dim V\mid V\in S_{-}\}=q.
\]
\end{exercise}


\begin{solution}
   我们只证明正惯性指数相关的部分，负惯性指数相关部分的证明类似 
    (或者把正惯性指数的结论应用于$-A$来得到关于$A$的负惯性指数的结论)。
  令$V_+$为所有不同的正特征值的特征子空间之和（没有正特征值时取$V_+=\{0\}$），
  $V_1$为所有不同的非正特征值的特征子空间之和（没有非正特征值时取$V_1=\{0\}$）。
  那么
  \[
    \dim V_+=p, \quad \dim V_1=n-p.
  \]
  若$0\neq X\in V_+$, 那么$X$可写为$X=X_1+\cdots+X_r$, 其中$X_1,\cdots,X_r$分别是属于不同的正特征值$\lambda_1, \cdots, \lambda_r$的特征向量。$i\neq j$时$X_i, X_j$正交，即$X_i^{\rT}X_j=0$.
  从而
  \[
  \begin{aligned}
    X^{\rT}AX&= \left(\sum_{i=1}^r X_i^{\rT}\right) A  \left( \sum_{i=1}^r X_i \right)
    =  \left(\sum_{i=1}^r X_i^{\rT}\right) \left( \sum_{i=1}^r \lambda_i X_i \right)\\
    &=  \sum_{i=1}^r \lambda_i X_i^{\rT}X_i 
    >0.
    \end{aligned}
\]
  类似地，可证明对$0\neq X\in V_1$, 
  \(
    X^{\rT}AX\leqslant 0.
  \)
  我们有$V_+\in S_+$, 且$\dim V_+=p$. 
  对任意的$V\in S_+$, 必有$\dim V\leqslant p$, 
  否则的话$\dim V+ \dim V_1>n$表明$V$与$V_1$有不平凡的交，
  而对$X\in V_1$有$X^{\rT}AX\leqslant 0$, 矛盾了。
  这样$S_+$中空间的维数最大值就是$p$. 
\end{solution}


\begin{exercise}\label{01C}
  设$A, B$是实对称矩阵，且$A-B$ 半正定。 
  证明 $p_A\geqslant p_B, q_A\leqslant q_B$, 
  其中 $p, q$分别表示正惯性指数、负惯性指数。
\end{exercise}
此题是练习 \ref{0A9} 的特殊情形。

\begin{solution}
  设$V$是$B$的所有正特征值的特征子空间的和 ($B$ 没有正特征值时令 $V=\{0\}$)。
  对$0\neq X\in  V$, $A-B$半正定表明
  \(
    X^{\rT}(A-B)X\geqslant 0,
  \)
  从而
  \(
    X^{\rT} A X \geqslant X^{\rT} B X>0.
  \)
  这样由练习~\ref{0C9}~知
  \(
    p_A\geqslant \dim V=p_B.
  \)
  类似地可证$q_A\leqslant q_B$. 
\end{solution}


\begin{exercise}\label{0A9}
  设$A, B$是实对称矩阵。证明
  \[
    p_A+p_B\geqslant p_{A+B}, \quad q_A+q_B\geqslant q_{A+B},
  \]
  其中 $p$为正惯性指数，$q$为负惯性指数。
\end{exercise}

\begin{solution}
  \fangfa 设$A, B$为$n$阶矩阵。
  令 $W_A, W_B$分别为 $A, B$ 的所有非正特征值的特征子空间的直和 
  (如果没有非正特征值就取为零空间)。
  那么 $\dim W_A=n-p_A$, 且对任意的$X\in W_A$有$X^{\rT}AX\leqslant 0$;
  $\dim W_B=n-p_B$, 且对任意的$X\in W_B$有$X^{\rT}BX\leqslant 0$.
  因此对$X\in W_A\cap W_B$有
  \(
    X^{\rT}(A+B)X\leqslant 0.
  \)
  令 $V_+$ 为 $A+B$ 的所有正特征值的特征子空间的和(如果没有正特征值就取为零空间)。那么 
  $V_+\cap (W_A\cap W_B)=\{0\}$. 这样
  \begin{align*}
    n-p_{A+B}& \geqslant \dim W_A\cap W_B\\
    &= \dim W_A + \dim W_B -\dim (W_A+ W_B) \\
    & \geqslant (n-p_A)+(n-p_B)-n\\
    &= n-(p_A+p_B).
  \end{align*}
  所以$p_A+p_B\geqslant p_{A+B}$.
  类似地可以证明负惯性指数的结论。

  \fangfa     我们有
    \[
      \begin{pmatrix}
        E & 0\\
        E & 0
      \end{pmatrix}^{\rT} \begin{pmatrix}
        A \\ &B
      \end{pmatrix}\begin{pmatrix}
        E & 0 \\ E & 0
      \end{pmatrix}=\begin{pmatrix}
        A+B \\ & 0
      \end{pmatrix}.
    \]
    注意到
    \[
      \begin{pmatrix}
      A \\ &B
    \end{pmatrix} \quad(\text{转：} \begin{pmatrix}
        A+B \\ & 0
    \end{pmatrix})
  \]
  的正、负惯性指数分别是
  \[
    p_A+p_B, q_A+q_B \quad (\text{转：} p_{A+B}, q_{A+B}).
  \]
  由于 (不必可逆的矩阵给出的) 合同变换后正、负惯性指数不会增加 (练习 \ref{213})，
$p_{A+B}\leqslant p_A+p_B,$
  $q_{A+B}\leqslant q_A+q_B$.
\end{solution}

\begin{exercise}\label{0AC}
  设$A\in \symbf{R}^{n\times n}$是实对称矩阵。
  令$p,q,s$分别为实二次型$f(x)=x^{\rT} Ax$的正惯性指数、负惯性指数、符号差，
  其中$x=(x_1, \cdots, x_n)^{\rT}\in \symbf{R}^{(n)}$. 
  考虑如下$\symbf{R}^{(n)}$的子空间的集合
  \[
    S_f=\{\text{子空间}~V\subset \symbf{R}^{(n)}\mid \text{对任意的$x\in V$有 $f(x)=0$}\}.
  \]
  证明
\begin{enumerate}
  \item $\max\{ \dim V \mid V\in S_f\}=\min\{n-p,n-q\}.$
\item \tiyuan{\cite[P184,3]{PWS19}}
  若$A$可逆，则
  \[
    \max\{\dim V \mid V\in S_f\}=\min\{p,q\}=\frac{1}{2}(n-|s|).
  \]
  \end{enumerate}
\end{exercise}

\begin{solution}
  (1) 我们先来说明 $\max\{ \dim V \mid V\in S\}$不随二次型的非退化的线性替换而改变，
      故可用$D$来代替$A$来讨论，其中
      \[
        D=\begin{pmatrix}
        E_p \\ & -E_q \\ && 0
      \end{pmatrix}.
    \]
  设二次型$f$经非退化的线性替换$x=Cy$化成了二次型$g(y)=y^{\rT}By$.
  考虑线性同构
  \[
    \varphi_C\colon \bR^{(n)}\rightarrow \bR^{(n)},\quad y\mapsto Cy.
  \]
  定义映射
  \[
    \rho\colon S_g\rightarrow S_f, \quad V\mapsto \varphi_C(V).
  \]
这是定义良好的，即对$V\in S_g$确实有$\varphi_C(V)\in S_f$, 
  因为在线性替换$x=Cy$下$x^{\rT}Ax=y^{\rT}By$.
  而且，由$C$非退化从而$\varphi_C$为同构可知$\rho$ 是双射。
  又由于$\dim V=\dim\varphi_C(V)$, 可知
  \[
    \max\{ \dim V \mid V\in S_f\} = \max\{ \dim V \mid V\in S_g\}.
  \]
  故可设$A=D$来证明，此时 $f(x)=x_1^2+\cdots+x_p^2-x_{p+1}^2-\cdots-x_{p+q}^2$.

    先考虑$p\leqslant q$. 一方面， 令 $e_i\in\bR^{(n)}$为第$i$分量为$1$其余分量为$0$的$n$维列向量， 
  令
  \[
  \begin{aligned}
      V_0&= \Span(e_1+e_{p+1}, \cdots, e_p+e_{2p}, e_{p+q+1},\cdots,e_n) \\
        &= \{v=(a_1,a_2,\cdots,a_p,a_1,\cdots,a_p,0,\cdots,0,a_{p+q+1},\cdots,a_n)^{\rT} \mid a_i\in\bR\}.
      \end{aligned}
\]
对任意的$v\in V_0$,
    \[
      f(v)=\sum_{i=1}^pa_i^2-\sum_{i=1}^{p}a_i^2=0,
    \]
  从而$V_0\in S_f$. 
又易知$\dim V_0=p+(n-(p+q))=n-q$, 因为上述定义$V_0$的生成元就是线性无关的。
    另一方面，对$V\in S_f$, 若$\dim V>n-q$ (特别地，$q>0$), 
    那么有维数公式知 $V$与特征值$-1$的特征子空间$V_{-1}$有非平凡的交，
    因为 $\dim V+\dim V_{-1}>n$ (注意到 $\dim V_{-1}=q$). 
    取$0\neq x\in V\cap V_{-1}$. 
    $x\in V_{-1}$表明$f(x)=-x^{\rT}x<0$, 而$x\in V$表明$f(x)=0$, 矛盾了。
  这样对任意的$V\in S$, $\dim V\leqslant n-q$.
    由上面两方面的结论可知$\max \{ \dim V \mid V\in S_f\}=n-q$.

    若$p\geqslant q$, 考虑二次型$g(x)=-x^{\rT}Ax$, 
    此二次型的正惯性指数、负惯性指数分别为$q,p$, 满足正惯性指数大于等于负惯性指数。
    这正是上一段讨论过的情形。而且显然$S_f=S_g$, 因为 $g(x)=0$当且仅当$f(x)=0$.
    应用上一段得到的结论可知
    $\max\{\dim V \mid V\in S_f\}= n-p$.
    这就证明了
    \[
      \max\{\dim V\mid V\in S_f\}=\min\{n-p,n-q\}.
    \]

    (2)  若$A$可逆，则$p+q=n$, $p-q=s$. 易知
    \[\tag*{\qedhere}
      \max\{\dim V \mid V\in S\}=\min\{p,q\}=\frac{1}{2}(n-|s|).
    \]
\end{solution}





\begin{exercise}
  设$A$是$n$阶实对称矩阵，有一个代数重数为$1$的实特征值$\lambda_1$, 且$\alpha_1$是属于$\lambda_1$的特征向量。
  证明$\begin{pmatrix}
    \lambda_1 E- A & \alpha_1\\
    \alpha_1^{\rT} & 0
  \end{pmatrix}$可逆。
  试着把上述结论推广到不必对称的矩阵。
\end{exercise}

\begin{solution}

  注意到$\alpha_1^{\rT}\alpha$是正实数，我们可以做如下的初等变换：
  \[
      \begin{pmatrix}
      \lambda_1 E- A & \alpha_1\\
    \alpha_1^{\rT} & 0
  \end{pmatrix}\xrightarrow{c_2+c_1\times \alpha_1} 
\begin{pmatrix}
    \lambda_1 E- A & \alpha_1\\
    \alpha_1^{\rT} & \alpha_1^{\rT} \alpha_1
  \end{pmatrix}\xrightarrow[c_1-c_2\times \frac{1}{\alpha_1^{\rT}\alpha_1}\alpha_1]{r_1-\frac{1}{\alpha_1^{\rT}\alpha_1}\alpha_1\times r_2}
 \begin{pmatrix}
   B  & \\
     & \alpha_1^{\rT} \alpha_1
  \end{pmatrix},
  \]
  其中$B=\lambda_1E- A -\frac{1}{\alpha_1^{\rT} \alpha_1}\alpha_1\alpha_1^{\rT}$. 
  要证明$\begin{pmatrix}
    \lambda_1 E- A & \alpha_1\\
    \alpha_1^{\rT} & 0
  \end{pmatrix}$可逆，
  只用证明
  \[
    B=\lambda_1 E-A-\frac{1}{\alpha_1^{\rT} \alpha_1}\alpha_1\alpha_1^{\rT} 
  \]
  可逆。
  设$A$的全部特征值为$\lambda_1, \cdots, \lambda_n$.
  $\alpha_1$可以扩充为两两正交的向量组$\alpha_1, \cdots, \alpha_n$，
其中$\alpha_i$是属于特征值$\lambda_i$的特征向量。此时，
    我们有
    \[
      \begin{cases}
        B \alpha_1 = -\alpha_1, & \\
      B\alpha_i = (\lambda_1-\lambda_i) \alpha_i, 
      &i=2,\cdots, n.
    \end{cases}
    \]
    这样$B$的全部特征值为$-1, \lambda_1-\lambda_2, \cdots, \lambda_1-\lambda_n$. 
    由于$\lambda_1$的代数重数为$1$, $\lambda_1-\lambda_i\neq 0$, 对$i=2, \cdots, n$.
    所有特征值非零表明$B$可逆。得证。

    推广如下：假设$A$是$n$阶实矩阵，有一个代数重数为$1$的实特征值$\lambda_1$, 
    $\lambda_1$的一个特征向量为$\alpha_1$, 并且\textit{还有${\alpha_1}^{\perp}$是$A$-不变子空间（比如我们可设$A$是规范矩阵，特别地，可以设$A$正交、对称或斜称）}，
    那么$\begin{pmatrix}
    \lambda_1 E- A & \alpha_1\\
    \alpha_1^{\rT} & 0
  \end{pmatrix}$可逆。
  此时，上面的特征向量$\alpha_1, \cdots, \alpha_n$不必两两正交，但可以做到$\alpha_2, \cdots, \alpha_n$与$\alpha_1$正交，上面的论证依然有效，进而结论依然成立。
\end{solution}




\iffalse

\begin{exercise}
  设 $P\in \bR^{n\times n}$ 满足 $P^{\rT}P=P$. 证明存在 $A\in \bR^{n\times n}$ 使得 $A^{\rT}A$ 可逆且 $P=A(A^{\rT}A)^{-1}A^{\rT}$.
\end{exercise}

\begin{solution}
 我们有 $P^{\rT}=(P^{\rT}P)^{\rT} = P^{\rT} P=P$, 故 $P=P^{\rT}P=P^2$. 这样有正交矩阵 $B$ 使得
    \[ 
        P=B
        \begin{pmatrix}
            E & \\
            & 0
        \end{pmatrix}B^{\rT}.
    \]
    若 $r=r(P)$, 对 $B$ 分块为 $\begin{pmatrix}
        A \\ A'
    \end{pmatrix}$, 其中 $A\in \bR^{n\times r}$.
    此时，
    \[
        P=
        \begin{pmatrix}
            A \\
            A'
        \end{pmatrix} 
        \begin{pmatrix}
            E & \\
            & 0
        \end{pmatrix}
        \begin{pmatrix}
            A^{\rT} & (A')^{\rT}
        \end{pmatrix} = AA^{\rT}.
    \]
    同时 $A^{\rT}A=E$, 所以 $P=AA^{\rT}=A(A^{\rT}A)^{-1}A^{\rT}$. 
\end{solution}

\fi

\paragraph*{酉空间}

\begin{exercise}
  设$X=\{1, 2, \cdots, n\}$. 用$\bC^X$表示$X$上的复值函数构成的复向量空间，
  其中加法与数乘由$\bC$上的加法与乘法诱导。
  对$f, g\in \bC^X$, 定义
  \[
    \pair{f,g}=\sum_{j=1}^n f(j) \overline{g(j)}.
  \]
  这个二元函数为$\bC^X$上的一个内积，从而$\bC^X$成为一个酉空间。
  令$\omega=e^{\frac{2\pi\,i}{n}}$. 
  设$p_1, \cdots, p_n\in \bC^X$, 且满足
  \[
    p_k(j)=\frac{1}{\sqrt{n}} \omega^{kj}.
  \]
  \begin{enumerate}
    \item 求$\bC^X$的维数。
    \item 证明$p_1, \cdots, p_n$构成$\bC^X$的一组标准正交基。
    \item 对$f\in \bC^X$, 定义$\sigma(f)=\hat{f}$, 其中$\hat{f}$在$k$处取值为$f$在标准正交基$p_1, \cdots, p_n$的坐标向量的第$k$个分量。
      证明$\sigma$为酉空间$\bC^X$上的一个线性变换，
      并且求$\sigma$在标准正交基$p_1, \cdots, p_n$下的矩阵。
    \item 证明$\sigma$是酉空间$\bC^X$上的酉变换。
  \end{enumerate}
\end{exercise}



\paragraph*{复数域上的规范矩阵与规范变换}

\begin{exercise}\label{1D6}
复方阵$N$称为\emph{规范的}，若它与其共轭转置可交换，即$NN^{\rH}=N^{\rH}N$. %\textbf{这里我们只关心实方阵}。
叙述并证明 练习 \ref{0E1} 对复方阵的版本。
\end{exercise}

%注意到 规范的复方阵不必是 Hermite矩阵。例如 $i$ 是规范的，但不是Hermite的；
%实际上 Hermite 的对角矩阵是实的对角矩阵。

\begin{solution}
 练习 \ref{0E1} 对复方阵的版本：准上三角（或准下三角）的规范复矩阵都是准对角的。
对练习 \ref{0E1} 稍作调整即可：只用在证明中把转置换成共轭转置。
\end{solution}


\begin{exercise}\label{1D7}
叙述并证明 练习 \ref{0AE} 对复方阵的版本。
\end{exercise}

\begin{solution}
 练习 \ref{0AE} 对复方阵的版本：
 复方阵$A$酉相似于一个上三角形矩阵。
\end{solution}


\begin{exercise}\label{1D8}
证明：一个 $n$ 阶复方阵是规范的当且仅当其酉相似于一个对角形的复矩阵，
  当且仅当其有 $n$ 个两两正交的特征向量。
\end{exercise}

\begin{solution}
  由练习 \ref{1D6} 和练习 \ref{1D7} 易知第一个``当且仅当''成立。
  第二个``当且仅当''显然。
\end{solution}

\begin{exercise}\label{1D9}
叙述并证明 练习 \ref{1D4} 对复方阵的版本。
\end{exercise}

\begin{solution}
练习 \ref{1D4} 对复方阵的版本：若 $N$ 是规范的复方阵，则 
$N, N^{\rH}$有相同的特征向量。练习 \ref{1D4} 的证明稍作调整依然适用。
\end{solution}

\begin{exercise}
  设$X, Y\in \bC^{(n)}$, 且$X\neq 0$. 
\begin{enumerate}
\item 证明存在规范矩阵$A$使得$AX=Y$.
\item 是否一定存在Hermite矩阵$A$使得$AX=Y$?
\end{enumerate}
\end{exercise}

% 可否找到Hermite矩阵 $A$? 至少 $n=1$ 时不行。比如取 $X=i, Y=1+i$.
% 从标准形可知问题相当于是否存在酉矩阵 $U$ 使得 $UX, UY$ 的每个分量相差个实数倍。

\begin{solution}
  (1) 将$\frac{X}{\norm{X}}$扩充为$\bC^{(n)}$的标准正交基，
  从而得酉矩阵$U_1$, 其第一列为$\frac{X}{\norm{X}}$.
  令 $Z=\frac{1}{\sqrt{n}}(1,\cdots,1)^{\rT}$.
  将 $Z$扩充为$\bC^{(n)}$的标准正交基，从而得酉矩阵$U_2$, 其第一列为$Z$.
  令$U=U_2 U_1^{H}$, 则$U\frac{X}{\norm{X}}=Z$. 
  设$Y=(y_1,\cdots,y_n)$, $UY=(y_1',\cdots,y_n')$.
  令
  \[
    A=\frac{\sqrt{n}}{\norm{X}} U^H \diag(y_1', \cdots, y_n') U.
  \]
  那么$A$是规范矩阵，且
  \[
    \begin{aligned}
      AX&= \frac{\sqrt{n}}{\norm{X}} U^H \diag(y_1', \cdots, y_n') U X
      = U^H \begin{pmatrix} y_1' \\ &  \ddots \\ & &  y_n'\end{pmatrix} \begin{pmatrix}
        1 \\ \vdots \\ 1
      \end{pmatrix} \\
      &= U^H (UY) 
      = Y.
    \end{aligned}
  \]
  故 $A$ 满足要求。

  (2) 不见得。
  对Hermite 矩阵 $A$, 存在酉矩阵 $U$ 使得 
  $U^{\rH}AU=\diag(\lambda_1,\cdots,\lambda_n)$,
  其中 $\lambda_i\in\bR$. 
  由此可知问题相当于是否存在酉矩阵 $U$ 
  使得 $UX, UY$ 的每个分量相差个实数倍。
  这样的酉矩阵不见得存在，比如令 $Z=(1,\cdots,1)^{\rT}$后取 $X=iZ, Y=(1+i)Z$.
\end{solution}

\begin{exercise}\label{1DF}
设 $A \in \bC^{n \times n}$ 为规范矩阵，令 $\rho(A)$ 为 $A$ 的谱半径。证明
\[
  \max_{0\neq X \in \bC^{(n)}} \frac{|X^{\rH} A X|}{X^{\rH} X} = \rho(A).
\]
\end{exercise}

\begin{solution}
存在酉矩阵 $U$ 使得 $D\coloneq U^{\rH} A U = \diag(\lambda_1, \cdots, \lambda_n)$. 
对 $0 \neq X \in \bC^{n}$, 令 $Y = U X$, 则有 $X^{\rH} A X = Y^{\rH} D Y$. 此时
\[
\begin{aligned}
 \frac{|X^{\rH} A X|}{X^{\rH} X} &=  \frac{|Y^{\rH} D Y|}{Y^{\rH} Y} = \frac{| \sum_{i = 1}^{n} \lambda_i |y_i|^2 |}{\sum_{i = 1}^{n} |y_i|^2}\\
  &\leqslant \frac{\sum_{i = 1}^{n} \rho(A) |y_i|^2}{\sum_{i = 1}^{n} |y_i|^2} = \rho(A).
\end{aligned}
\]
取 $X$ 使得 $U X = (1, 0, \cdots, 0)^{\rT}$ (我们假设 $\rho(A) = |\lambda_1|$)
可知等号可取得。
\end{solution}


\begin{exercise}\label{1E1}
  叙述并证明 练习 \ref{1E0} 对复向量空间上的线性变换的版本。
\end{exercise}

\begin{solution}
  设$N$为 规范的复方阵 (转：$n$维复向量空间$V$上的规范变换)，
  令 $N^{\rH}$ 为 $N$ 的共轭转置 (转：$N$ 的共轭)，那么
  \[
  \ker N=\ker N^{\rH},\quad \ker N = (\im N)^{\perp},\quad \im N=\im N^{\rH}.
\tag*{\qedhere}
\]
  \iffalse
我们有
\[
  \begin{aligned}
    \ker N &= \ker N^{{\rH}}N = \ker N N^{{\rH}}= \ker N^{{\rH}},\\
    \im N &= \im N^{\rH} N = \im NN^{\rH} = \im N^{\rH}.
  \end{aligned}
\]
\fi
\end{solution}

\paragraph*{酉矩阵与酉变换}

\begin{exercise}
  设$A, B$都是$n$阶酉矩阵。证明$|\det (A+B)|\leqslant 2^n$.
\end{exercise}

\begin{solution}

  由于$A, B$是酉矩阵，$A^{\rH} B$亦是，所以$A^{\rH} B$的特征值的模长为$1$.
  这样$E+A^{\rH} B$的特征值的模长不超过$2$. 因此
  \begin{align*}
|\det(A+B)|&= |\det A(E+A^{\rH} B)|=|\det A||\det(E+A^{\rH} B)|\\
&= |\det(E+A^{\rH} B)|\leqslant 2^n.
\tag*{\qedhere}
\end{align*}
\end{solution}



\paragraph*{Hermite矩阵与Hermite变换}

\begin{exercise}\label{1DA}
  叙述并证明练习 \ref{1D5}, 练习 \ref{0B2}, 练习 \ref{1DB} 对复方阵的版本。
\end{exercise}

\begin{solution}
  两个练习对复方阵的版本为：对 $A\in \bC^{n\times n}$, 下列条件等价：
  (1) $A$ 为Hermite矩阵；
  (2) $AA^{\rH}=A^2$;
  (3) $A$规范且$A$的所有的特征值都是实数；
  (4) 存在酉矩阵$U$使得
  $U^{\rH} A U=\diag(\lambda_1, \cdots, \lambda_n)$, 
    其中$\lambda_1, \cdots, \lambda_n$都是实数。
  其中， (1) $\Leftrightarrow$ (2) 可通过微调练习 \ref{1D5} 的证明的方法二得到，
  (1) $\Leftrightarrow$ (3) 可通过微调练习 \ref{0B2} 的证明得到，
  (3) $\Leftrightarrow$ (4) 可由练习 \ref{1D8} 得到。
\end{solution}

\begin{exercise}
  令$\pair{\,,\,}$为$\bC^{(n)}$上标准的内积，$A\in \bC^{n\times n}$. 
  设对任意的$x\in \bC^{(n)}$有$\pair{x, Ax}$是实数。
  证明$A$是Hermite矩阵。
\end{exercise}

\begin{solution}

  由于$\pair{x, Ax}\in \bR$, 我们有
  \[
    \pair{x, Ax}=x^{\rH} Ax=\overline{x^{\rH} Ax}=\left( x^{\rH} Ax \right)^{\rH}=x^{\rH} A^{\rH} x.
  \]
  所以$x^{\rH}Ax=x^{\rH} A^{\rH} x$, $x^{\rH} (A-A^{\rH} )x=0$, 对任意的$x\in \bC^{(n)}$.
  考虑$B=A-A^{\rH}$. $B^{\rH}=-B$表明$B$是斜Hermite矩阵（因此规范）。
  令$0\neq x$为$B$的数与特征值$\lambda$的特征向量，即$Bx=\lambda x$.
  此时，$0=x^{\rH} Bx=\lambda x^{\rH} x=\lambda |\lambda|^2$, 故$\lambda=0$. 
  所以$B$的特征值都是$0$. 
  作为规范矩阵，$B$可对角化 (练习 \ref{1D8})，这样$B=0$.
  从而$A=A^{\rH} $, 即$A$为Hermite矩阵。
\end{solution}




\begin{exercise}
  总结 Hermite矩阵正定、半正定的等价条件。
\end{exercise}

\begin{solution}
  对 $n$ 阶 Hermite 矩阵 $A$, 关于正定性，下列条件等价：
  \begin{enumerate}
    \item $A$ 正定 (即对任意的 $0\neq X\in \bC^{(n)}$ 有 $X^{\rH}AX>0$);
  \item $A$的正惯性指数等于$n$;
  \item 存在可逆复矩阵 $P$ 使得 $P^{\rH}AP=E$;
\item $A$的所有顺序主子式都是正数；
\item $A$的所有主子式都是正数；
\item 存在可逆复矩阵$C$使得$A=C^{\rH}C$;
\item 存在列满秩复矩阵$C$使得$A=C^{\rH}C$;
\item $A$的特征值都是正数。
  \end{enumerate}
关于半正定性，下列条件等价：
    \begin{enumerate}
  \item $A$是半正定的 (即对任意的 $X\in \bC^{(n)}$ 有 $X^{\rH}AX\geqslant 0$)；
  \item $A$的正惯性指数等于$A$的秩；
\item 存在可逆复矩阵 $P$ 使得 $P^{\rH}AP=\begin{pmatrix}
    E_r & \\
    & 0
  \end{pmatrix}$;
\item $A$的所有主子式都非负；
\item 存在复矩阵$C$（不必是方阵）使得$A=C^{\rH}C$;
\item $A$的特征值都非负。\qedhere
  \end{enumerate}
\end{solution}

\begin{exercise}
  \begin{enumerate}
    \item 设$A$是Hermite矩阵。证明$A^*$ 是Hermite矩阵；
      $A$ 可逆时 $A^{-1}$是Hermite矩阵。
  \item 若$A, B$是正定的Hermite矩阵，则$A^*, A^{-1}, A+B$正定。
  \item 若$A, B$正定的Hermite矩阵，且$AB$亦Hermite 矩阵，则$AB$正定。
  \end{enumerate}
\end{exercise}

\begin{solution}
  略。
\end{solution}

\begin{exercise}
叙述并证明练习 \ref{1DD} 对 Hermite矩阵的版本。
\end{exercise}

\begin{solution}
练习 \ref{1DD} 对 Hermite矩阵的版本为：
  设$H\in \bC^{n\times n}$是秩一的半正定的Hermite矩阵，
  那么存在$0\neq v\in \bC^{(n)}$使得$H=v v^{\rH}$.
\end{solution}

\begin{exercise}\label{1D1}
叙述并证明练习 \ref{1D0} 对 Hermite矩阵的版本。
\end{exercise}

\begin{solution}
   对 $n$ 阶Hermite 矩阵$A$, 其特征值从大到小记为 
   $\lambda_{1}(A) \geqslant \lambda_{2}(A) \geqslant \cdots \geqslant$ $\lambda_{n}(A)$. 我们有
\begin{enumerate}
  \item  $\lambda_{n}(A) \leqslant \frac{X^{\rH} A X}{X^{\rH} X} \leqslant \lambda_{1}(A)$, 
    对任意非零向量 $X \in \bC^{(n)}$ 成立。
  \item 若 $A, B$ 是 $n$ 阶Hermite 矩阵，则
    \[
    \begin{aligned}
      \lambda_{n}(A+B) & \geqslant \lambda_{n}(A)+\lambda_{n}(B),\\
        \lambda_{1}(A+B)&  \leqslant \lambda_{1}(A)+\lambda_{1}(B).
      \end{aligned}
  \]
   \end{enumerate}
证明与 练习 \ref{1D0} 的证明类似。
\end{solution}


\begin{exercise}
  叙述并证明练习 \ref{1DE} 对 Hermite矩阵的版本。
\end{exercise}

\begin{solution}
  练习 \ref{1DE} 对 Hermite矩阵的版本为 (证明相似)：
 设$A$是半正定的Hermite 矩阵，$m$ 为正整数，
  那么
\begin{enumerate}
\item 存在唯一的半正定的Hermite 矩阵$B$使得$A=B^m$. 
  $B$ 也记为 $A^{\frac{1}{m}}$.
\item  $A^{\frac{1}{m}}$ 可表为 $A$ 的多项式。
\item 与 $A$ 可交换的复方阵都可与 $A^{\frac{1}{m}}$ 可交换。\qedhere
\end{enumerate}
\end{solution}

\begin{exercise}[Fesch\'er]
  \label{1DC}
  设$A\in \bC^{n\times n}, C\in \bC^{m\times m}$是Hermite矩阵, 且$\begin{pmatrix}
    A & B\\
    B^{\rH} & C
  \end{pmatrix}$正定。 证明
  \[
    \det \begin{pmatrix}
    A & B\\
    B^{\rH} & C
  \end{pmatrix} \leqslant \det A\det C,
  \]
  且其中等号成立当且仅当 $B=0$.
\end{exercise}


\begin{solution}
  显然$A, C$正定。存在可逆矩阵$U, V$使得$U^{\rH} AU=E, V^{\rH} BV=E$. 令 $P=U^{\rH} B V$. 那么
  \[
    \begin{pmatrix}
      E & -P\\
      & E
    \end{pmatrix}\begin{pmatrix}
      U^{\rH} \\
      & V^{\rH}
    \end{pmatrix}
    \begin{pmatrix}
      A & B\\
      B^{\rH} & C
    \end{pmatrix} \begin{pmatrix}
      U \\ & V
    \end{pmatrix}
    \begin{pmatrix}
      E \\
      -P^{\rH} & E
    \end{pmatrix} = \begin{pmatrix}
      E-PP^{\rH} \\ & E
    \end{pmatrix}.
  \]
  由$ \begin{pmatrix}
      A & B\\
      B^{\rH} & C
    \end{pmatrix}$正定知Hermite矩阵 $E-PP^{\rH}$ 正定。
    又 Hermite 矩阵 $PP^{\rH}$半正定， 故Hermite矩阵 $E-PP^{\rH}$的任一特征值$\lambda$
    满足$0\leqslant \lambda \leqslant 1$.
    这样
    \[
      |\det U|^2\begin{vmatrix}
      A & B\\
      B^{\rH} & C
    \end{vmatrix}|\det V|^2 =\begin{vmatrix}
      E-PP^{\rH}\\ & E
    \end{vmatrix}  \leqslant 1.
  \]
  从而
  \[
    \begin{vmatrix}
      A & B\\
      B^{\rH} & C
    \end{vmatrix}\leqslant \frac{1}{|\det U|^2}\frac{1}{|\det V|^2} = \det A\det B.
  \]
  若等号成立，可知 $E-PP^{\rH}$ 的特征值都是 $1$, 从而 $PP^{\rH}=0$, $P=0$.
  这样 $B=0$; 反过来， $B=0$时显然等号成立。
\end{solution}

\begin{exercise}[Hadamard]
  设$A$为复方阵。证明：
  \[
    |\det A|^2\leqslant \prod_{i=1}^n \left( \sum_{j=1}^n|a_{ij}|^2 \right).
  \]
\end{exercise}

\begin{solution}
  应用练习 \ref{1DC} 可得练习 \ref{1D3}(1) 对复矩阵的版本：
若$A=(a_{ij})$是半正定的Hermite矩阵，
则$\det A\leqslant \prod_{i=1}^n a_{ii}$, 等号成立当且仅当$A$是对角阵。
对一般的复方阵 $A$,  对半正定的Hermite矩阵 $A^{\rH}A$ 应用此不等式
即可得题目中断言的不等式。
\end{solution}




\begin{exercise}
  设$A\in \bC^{n\times n}$可写成$A=H+K$, 其中$H\in \bC^{n\times n}$为Hermite矩阵，
  $K\in \bC^{n\times n}$为Hermite斜称矩阵（即$K^{\rH}=-K$）。
  设$a, h, k$为$A,  H, K$中元素的最大模。
  若$z=x+i\,y$（$x,y$分别为实部与虚部）为任一$A$的特征值，证明
  \[
    |z|\leqslant na,\quad |x|\leqslant nh,\quad |y|\leqslant nk.
  \]
\end{exercise}


\begin{solution}
(1) 设 $\xi = (\xi_1, \cdots, \xi_n)^{\rT}$ 为属于特征值 $z$ 的一个特征向量。
取指标 $i$ 使得
\[
|\xi_i| = \max \{|\xi_j| \mid  1 \leqslant j \leqslant n\}.
\]
此时
\[
\begin{aligned}
|z| |\xi_i|&= |z\xi_i| = | \sum_{j = 1}^{n} a_{ij} \xi_j | \leqslant \sum_{j = 1}^{n} |a_{ij}| |\xi_j|\\
& \leqslant \sum_{j = 1}^{n} a |\xi_j|\leqslant na|\xi_i|.
\end{aligned}
\]
故 $|z| \leqslant na$.

(2) 由(1) 知 $\rho(H) \leqslant n h$. 要证明 $|x|\leqslant nh$, 
只用证 $|x| \leqslant \rho(H)$. 我们有 $H = \frac{A + A^{\rH}}{2}$.
由 $A \xi = z \xi$ 得 $\xi^{\rH} A^{\rH} = \bar{z} \xi^{\rH}$. 进而又有
\[
  \xi^{\rH} A\xi=z\xi^{\rH}\xi,\quad \xi^{\rH}A^{\rH}\xi=\bar{z}\xi^{\rH}\xi.
\]
这样
\[
\xi^{\rH} H \xi = x \xi^{\rH}  \xi, \quad |x| = \frac{|\xi^{\rH} H \xi|}{\xi^{\rH} \xi}.
\]
这时由练习 \ref{1DF} 知 $|x| \leqslant \rho(H)$. 证毕。

(3) 我们有 $K=\frac{A-A^{\rH}}{2}$. 和 (2) 类似地可证得 $|y|\leqslant nk$.
\end{solution}





\section{杂题}


\begin{exercise}
  \begin{enumerate}
    \item  设 $V\subset\bR^n$ 是一个子空间，$Z\in\bR^n$ 是一个给定向量。
    找到一个与 $V$ 垂直且 $\langle X,Z\rangle$ 尽可能大的单位向量 $X$. 
  \item 计算 $\max\int_{- 1}^{1}x^{3}h(x)dx$, 其中 $h(x)$ 是在区间 $-1\leq x\leq1$ 上的任何连续函数，满足以下限制条件：
  $\int_{-1}^{1}h(x)dx=\int_{-1}^{1}xh(x)dx=\int_{-1}^{1}x^{2}h(x)dx = 0$；$\int_{-1}^{1}|h(x)|^{2}dx = 1$. 
\item 计算 $\min_{a,b,c}\int_{-1}^{1}|x^{3}-a - bx - cx^{2}|^{2}dx$. 
\end{enumerate}
\end{exercise}

\begin{exercise}
[对偶变分问题] 设 $V\subset\bR^n$ 是一个线性空间，$Q:\bR^n\to V^{\perp}$ 是到 $V^{\perp}$ 的正交投影，$x\in\bR^n$ 是一个给定向量。注意 $Q = E - P$, 其中 $P$ 是到 $V$ 的正交投影。
\begin{enumerate}
  \item  证明 $\max_{\{z\perp V,\|z\| = 1\}}\langle x,z\rangle=\|Qx\|$. 
  \item 证明 $\min_{v\in V}\|x - v\|=\|Qx\|$. 
  [注：对偶变分问题是一对最大值和最小值问题，其极值相等。]
\end{enumerate}
\end{exercise}

\begin{exercise}
设 $A$ 是一个 $n\times n$ 正定实矩阵，$\beta$ 是一个实向量，$N$ 是一个实单位向量。
\begin{enumerate}
  \item  对于实标量 $c$ 的哪些值，集合 $E:=\{x\in\bR^3\mid\langle x,Ax\rangle+2\langle\beta,x\rangle + c = 0\}$（一个椭球）非空？[答案：$\langle\beta,A^{-1}\beta\rangle\geq c$. 如果 $n = 1$, 这当然简化为一个熟悉的条件。]
  \item 对于标量 $d$ 的哪些值，平面 $P:=\{x\in\bR^3\mid\langle N,x\rangle = d\}$ 与上述椭球 $E$（假设非空）相切？
    [答案：$d=-\langle N,A^{-1}\beta\rangle\pm\sqrt{\langle N,A^{-1}N\rangle}\sqrt{\langle\beta,A^{-1}\beta\rangle - c}$. 
  对于 $n = 1$, 这只是二次方程 $ax^{2}+2\beta x + c = 0$ 的解 $d=\frac{-\beta\pm\sqrt{\beta^{2}-ac}}{a}$. ]
[建议：首先讨论 $A = E$ 和 $\beta = 0$ 的情况。然后通过变量变换，将一般情况简化为这个特殊情况。]
\end{enumerate}
\end{exercise}


\begin{exercise}
  \begin{enumerate}
    \item  计算 $\iint_{\bR^2}\frac{dx dy}{(1 + 4x^{2}+9y^{2})^{2}}$, $\iint_{\bR^2}\frac{dx dy}{(1 + x^{2}+2xy + 5y^{2})^{2}}$, $\iint_{\bR^2}\frac{dx dy}{(1 + 5x^{2}-4xy + 5y^{2})^{2}}$. 
    \item 计算 $\iint_{\bR^2}\frac{dx_1dx_2}{[1+\langle x,Cx\rangle]^{2}}$, 其中 $C$ 是一个 $2\times2$ 正定（对称）矩阵，$x=(x_1,x_2)\in\bR^2$. 
    \item 设 $h(t)$ 是一个给定函数，且已知 $\int_{0}^{\infty}h(t)dt=\alpha$. 如果 $C$ 是一个 $2\times2$ 正定矩阵。证明 $\iint_{\bR^2}h(\langle x,Cx\rangle)dA=\frac{\pi\alpha}{\sqrt{\det C}}$. 
    \item 计算 $\iint_{\bR^2}e^{-(5x^{2}-4xy + 5y^{2})}dx dy$. 
    \item 计算 $\iint_{\bR^2}e^{-(5x^{2}-4xy + 5y^{2}-2x + 3)}dx dy$. 
  \item 将 c) 部分推广到 $\bR^n$ 以得到 $\iint_{\bR^n}h(\langle x,Cx\rangle)dV$ 的公式，其中现在 $C$ 是一个 $n\times n$ 正定矩阵。答案将涉及一个包含 $h$ 的积分以及单位球 $S^{n - 1}\hookrightarrow\bR^n$ 的“面积”。
\end{enumerate}
\end{exercise}

\begin{exercise}
设 $P_1,P_2,\ldots,P_k$ 是 $\bR^3$ 中的 $k$ 个点（将它们视为数据），设 $\mathcal{S}$ 是平面 $\mathcal{S}:=\{X\in\bR^3:\langle X,N\rangle = c\}$, 其中 $N\neq0$ 是平面的单位法向量，$c$ 是一个实常数。这个问题概述了如何找到在最小化函数 $Q(N,c):=\sum_{j = 1}^{k}\text{distance}(P_j,\mathcal{S})^2$ 的意义上最能逼近数据点的平面。
\begin{enumerate}
  \item  对于给定点 $P$, 证明 $\text{distance}(P,\mathcal{S})=|\langle X,N\rangle - c|=|\langle X,N\rangle - c|$. 
  \item 首先处理质心 $\bar{P}:=\frac{1}{k}\sum_{j = 1}^{k}P_j$ 在原点的特殊情况，证明通过让 $N$ 是矩阵 $A:=\sum_{j = 1}^{k}P_jP_j^T$ 的特征向量（这里我们将 $P_j$ 视为列向量，$P_j^T$ 是转置，所以 $P_jP_j^T$ 是一个方阵）来确定平面。$c$ 是多少？
  \item 通过让 $V_j = P_j-\bar{P}$ 将一般情况简化为前面的情况。
  \item 找到直线 $ax + by = c$ 的方程，该直线在上述意义上最能拟合数据点 $(-1,3)$, $(0,1)$, $(1,-1)$, $(2,-3)$. 
  \item 设 $P_j:=(p_{j1},\ldots,p_{j3})$, $j = 1,\ldots,k$ 是第 $j$ 个数据点的坐标，$Z_{\ell}:=(p_{1\ell},\ldots,p_{k\ell})$, $\ell = 1,\ldots,3$ 是第 $\ell$ 个坐标的向量。如果 $a_{ij}$ 是 $A$ 的 $ij$ 元素，证明 $a_{ij}=\langle Z_i,Z_j\rangle$. 注意，这展示了 $A$ 是一个 Gram 矩阵（见问题 70）。
  \item 推广到 $P_1,P_2,\ldots,P_k$ 是 $\bR^n$ 中的 $k$ 个点的情况。
  \end{enumerate}
\end{exercise}


\begin{exercise}
  求出一个二元二次多项式 $f(x, y)$ 满足条件： $f(x, y)=f(-x, x+y)=f(x+y,-y)$.
\end{exercise}

\begin{exercise}
  设$A$为$n$阶Hermite矩阵，令$\lambda_1(A), \cdots, \lambda_n(A)$是其$n$个实特征值，
  不妨设$\lambda_1(A)\leqslant \cdots \leqslant \lambda_n(A)$. 
  令$M_j$为$A$去掉第$j$行和第$j$列后的$n-1$阶矩阵，这也是Hermite矩阵，
  令$\lambda_1(M_j), \cdots, \lambda_{n-1}(M_j)$为$M_j$的$n-1$个实特征值，
  不妨设$\lambda_1(M_j)\leqslant \cdots\leqslant \lambda_{n-1}(M_j)$.
  \begin{enumerate}
    \item 证明 \emph{Cauthy交织公式}：对任意的$1\leqslant i\leqslant n-1$,
      \[
        \lambda_i(A)\leqslant \lambda_i(M_j)\leqslant \lambda_{i+1}(A).
      \]
          \item 由谱定理，存在能构成$\bC^{(n)}$的标准正交基的关联到
      $\lambda_1(A), \cdots, \lambda_n(A)$的特征向量
      $v_1, \cdots, v_n$. 令$v_{ij}$为$v_i$的第$j$分量。
      证明 \emph{特征向量-特征值公式}（参见~\cite{denton22}~和那里的参考文献）：
      \[
        |v_{ij}|^2 \prod_{k=1;k\neq i}^n \left( \lambda_i(A)-\lambda_k(A) \right) =
        \prod_{i=1}^{n-1}\left( \lambda_i(A)-\lambda_k(M_j) \right).
      \]
  \end{enumerate}
\end{exercise}


\begin{exercise}
\begin{enumerate}
  \item 证明第一类正交矩阵恰好形如 $e^A$, 其中 $A$ 为反称的实矩阵。
  \item  证明酉矩阵恰好形如 $e^{\mathrm{i}A}$, 其中 $A$是Hermite矩阵。
\end{enumerate}
\end{exercise}
